Manipulace s uživateli sociálních sítí pomocí emocí

Facebook v lednu 2012 experimentoval na téměř 700 tisících uživatelích. Cílem bylo zjistit, jak se mění nálada lidí, pokud se jim zobrazují pozitivní nebo naopak negativní příspěvky přátel. Jde zřejmě jen o špičku ledovce v manipulaci s uživateli.

Největší sociální síť na světě, Facebook, musí řešit problém, který může narušit důvěru uživatelů v to, jakým způsobem tato platforma funguje. Timeline každého uživatele nezobrazuje standardně všechny příspěvky, ale pouze ty, které speciální algoritmus vyhodnotí jako zajímavé – může jít o stránky s velkým množstvím interakce, příspěvky, které mohou být z řady důvodů přitažlivé nebo se v nich například mluví o uživateli.

Přesný mechanismus výpočtu není znám. Ve své podstatě do velké míry odlišuje zajímavou a dynamicky něco řešící síť s vysokou viralitou od města duchů. Není totiž v silách člověka přečíst všechny příspěvky, a pokud sleduje desítky stránek a skupin, tak ani je. Vhodně nastavený algoritmus je cestou, jak médium, jakým je sociální síť, udržet při životě. Pokud máme koncept podobný Facebooku nemáme jinou než selekční možnost výběru.

Kauza s emocionální manipulací

A právě zde je zakopaný pes. Facebook v lednu 2012 provedl experiment na 689 003 uživatelích. Jedné skupině prioritně zobrazoval pozitivní příspěvky a druhé negativní.[1] Činil tak na základě poměrně jednoduchého zpracování textových řetězců v angličtině. Samotný mechanismus byl natolik primitivní, že zřejmě neposkytl nějak zásadně jednoznačné výsledky a dovolím si tvrdit, že s dnešními technologiemi, ať již Graphsearch[2] nebo i zpracování přirozeného jazyka, by výsledky byly mnohem přesvědčivější a zajímavější.

Celý článek vyšel ve velice seriózním Proceedings of the National Academy of Sciences a jeho autory jsou Kramer, Guillory a Hancock. [3] Původní hypotéza, že uživatel obklopený pozitivními příspěvky bude frustrovaný a bude publikovat sám negativní posty, se nijak neprokázala, naopak se zdá, že při obklopení se dobrými zprávami, se také zlepšuje nálada. Toto tvrzení má však velice malou měřitelnou výchylku (jde asi o jedno změněné slovo z tisíce).[4]

V hodnocení článku pak uvádějí, že tyto efekty jsou sice na hranici měřitelnosti (tedy d = 0.001), ale i malé změny nálady mohou mít – díky velikosti sítě – zásadní dopad na globální efekty. Pracují tak se zajímavou variantou jevu, označovaného jak mávnutí motýlích křídel, jen zatíženého dobře provedenou statistikou.[5] To vše dávají do souvislosti s problematikou veřejného zdraví, které se může díky takto koncipovaným zásahům proměňovat a měnit. Paradoxní pro nezaujatého čtenáře musí být především zcela naivní přístup autorů k sociálním a etickým dopadům jejich výzkumu.

To, co vzbudilo velký mediální ohlas, je samotná manipulace s algoritmem pro zveřejňování výsledků s cílem měnit náladu a chování uživatelů. Sám fakt je jistě problematický, ale je třeba jej vidět v širším kontextu. Celá kauza se objevila až poté, co článek vyšel ve zmíněném časopise a mohli si jej veřejně přečíst každý.

Jeden z autorů Adam Kramer pak použil Facebooku k omluvě, ve které uvádí, že výzkumný kontext počátku roku 2012 a dneška je zcela jiný a že si uvědomuje, že napětí, které způsobil, nemusí být adekvátní a že jej vůbec nečekal.[6]

Kontext

Předně je nutné říci, že i když je algoritmus nastavený jako objektivní – a zde je obtížné říci, co to vlastně znamená – není velký problém náladu osob měnit. Stačí k tomu použít dostatečně velké množství softwarově řízených agentů. Výzkum, který před časem provedla univerzita ve Vancouveru, ukazují, že za 40 dolarů (tolik stojí problematická aplikace), lze získat nejen obrovské množství osobních dat od tisíců uživatelů, ale také jim sdílet v podstatě libovolný obsah s mnohem větším manipulačním potenciálem.[7]

Podobně lze ke změně nálad užívat velké stránky, které mají uživatelé mezi oblíbenými – a jejich interakci a provoz také není těžké nakoupit. To znamená, že ten kdo se do manipulace s uživateli bude chtít pustit, potřebuje jen, co možná nejdéle dopředu, budovat síť stránek a falešných profilů. Výsledek bude přitom téměř jistě lepší, než při libovolném nastavení selekčního algoritmu.

Ten nemůže být úplně nevyvážený, neboť by síť ztrácela na zajímavosti a důvěryhodnosti, zatímco výše uvedeným způsobem vše působí velice přirozeně a autenticky. Samostatnou kapitolou by pak byly hry na Facebooku, které jsou z řady důvodů ještě silnějším manipulačním nástrojem.

Jestliže velké politické revoluce Arabského jara neměly žádnou výraznou osobnost, ale pouze náladu na sociálních sítích, jakousi anonymní masu, je zcela přirozené se ptát, zda Facebook na jedné straně nemění náladu v těchto zemích (například na politickou objednávku USA), nebo zda je prostě nekonstruuje dlouhodobá činnost CIA či jiné bezpečnostní organizace. To že se jak tajné, tak veřejné služby o sociální sítě zajímají a dlouhodobě je analyzují, je přitom známá věc.[8]

Problém se aktuálně týká pouze Facebooku, ale lze očekávat, že se podobné manipulace budou objevovat i na jiných platformách, kde budou mít smysl a dostatečný zásah. Je také nutné zdůraznit, že zdaleka nešlo o první nebo největší výzkum na této sociální sítě, který by souvisel s náladou či chováním uživatelů. Jde naopak o téma velice vděčné a hojně zkoumané, snad jen bez známé systémové manipulace. Vzhledem k tomu, že většina sociálních sítí funguje na velice podobném principu, je pravděpodobné, že skutečně nejde o izolovaný problém.

V USA se přitom objevila řada úvah nad tím, co daný experiment znamená a jaké má důsledky. První je zjištění, že sociální sítě mohou manipulovat veřejné mínění a například v prezidentských volbách, které jsou často velice těsné, může i drobná změna nálady hrát rozhodující roli. Druhý hlas nabádá k zavedení legislativních opatření na ochranu uživatelů, ale z důvodů výše uvedených je zcela bezzubý a zřejmě obtížně vymahatelný. Jedinou možností je si na vliv sociálních sítí zvyknout a věnovat se této problematice také v mediálních a dalších výchovách.[9]

Počítačové zpracování emocí

Celá kauza je zřejmě nejlepší možnou reklamou na zajímavou oblast informatiky, která vedle umělé inteligence vypadá trochu jako popelka, ale její význam může být obdobný – počítačové zpracování emocí. To se může projevovat buď snahou o vytvoření programu, který bude schopen interakce s uživatelem a bude přitom projevovat komunikační strategie spojené s emocemi, což je důležité při syntéze řeči nebo v dialogových a e-learningových systémech.

Druhou oblastí, která je s tím úzce spojená je práce na detekci emocí. V zásadě existuje několik projektů, které si kladou za cíl zjišťovat emoce z různých zdrojů. Klasickou cestou je měření fyziologických projevů, jako je galvanický odpor kůže, tep, teplota či hladina hormonů. Jde ale o proměnné závislé na řadě dalších parametrů a proto není obtížné z nich vyvodit chybné závěry. Druhou cestou je analýza hlasu, která ale vyžaduje dlouhodobou zkušenost s konkrétním člověkem a třetí rozvíjejíc se oblastí je práce s gesty a mimikou. Obecně přitom platí, že čím více informací o člověku máme a čím déle jej sledujeme, tím lépe jsme schopni jeho emocionální stav určit.

Pozitivní využití těchto technologií je zřejmé – například pro komunikaci autistů s pečovateli jde o neocenitelného pomocníka pro obě strany, dobře poslouží pro studium, kdy můžeme zadávat úkoly, které budou studenta aktuálně nejvíce bavit a bude na ně naladěn. Touto cestou lze uvažovat o zvýšení efektivity v práci.  Zřejmě nejtriviálnějším příkladem je detekce únavy řidičů v automobilech.

Některé negativní rysy se ale objevují již dnes. Ať již jde o obavy z totality, která může být prací s emocí mnohem efektivněji provozována, přes marektingové zneužívání atp. Druhým extrémem je přeceňování současných možností v podobně zcela disfunkčního a nespolehlivého detektoru lži. Aktuální kauza ukazuje, jak snadno lze pracovat s emocemi lidí, aniž bychom znali jejich aktuální emocionální stav nebo uměli s emocemi skutečně lépe pracovat, než jen filtrovat příspěvky podle slovních spojení. Péče o veřejné zdraví, které zmiňuje závěr článku, jenž vzbudil takový rozruch, ukazuje zcela nové perspektivy.

Prismatem člověka mimo klasické hodnotové evropské civilizace struktury může jít o ideální nástroj zdravotnických politik. Jestliže existuje spojitost mezi emocemi (a psychickým stavem vůbec), měla by být otevřené diskuse o tom, zda není relevantní zaplatit hodnotu objektivity (a to dosti pochybné, tedy hodnotu nepříliš velkou) s cílem zlepšit zdraví a tedy také produktivitu populace. Ekonomické, zdravotnické i další důsledky si může každý domyslet sám.

Informační společnost a nová média

Kauza ukazuje na zranitelnost současné společnosti, která si vlastnosti a vliv nových médií a sociálních sítí uvědomuje jen velice málo. Vědecké články se do běžného vzdělávání nebo žurnalistiky dostávají poskrovnu a to, že může někdo realizovat podobnou aktivitu, je celospolečenským překvapením. Poučený uživatel totiž tuší, že jde jen o velice malý zlomek skutečného dění. Jediné, co může překvapit, je, jakým způsobem a s jakými výsledky to celé bude probíhat. Facebook (ale nejen on) je spíše velkou laboratoří, než objektivním ničím nedeformovaným světem.

Myslím, že se zde otevírá zcela nový prostor pro informační a mediální výchovu, které se zdají být důležitější a významnější než kdy dříve a to nejen v kontextu formálního, ale především celoživotního vzdělávání. A možná je na místě si položit ještě jednu kontroverzní tezi – budeme-li pečovat o rozvoj těchto gramotností, může být pozitivizace sociální sítě jevem zcela adekvátním. Člověk ví, jak zjistit objektivně více, umí se v takovém světě orientovat, ale je šťastnější a zdravější.[10] Osobně s takovou tezí zcela souhlasit nebudu, ale jsem si vědom toho, že argumentace proti ní i pro ni bude jedním z velkých témat nejbližších měsíců či let.

Článek je rozšířenou verzí textu, který vyšel na Dsl.cz http://www.dsl.cz/clanek/3148-experimenty-facebooku-jsou-jen-spickou-ledovce

Reference

BOOTH, Robert. Facebook reveals news feed experiment to control emotions. The Guardian [online]. 2014 [cit. 2014-07-13]. Dostupné z: http://www.theguardian.com/technology/2014/jun/29/facebook-users-emotions-news-feeds

BOSHMAF, Yazan, et al. The socialbot network: when bots socialize for fame and money. In: Proceedings of the 27th Annual Computer Security Applications Conference. ACM, 2011. p. 93-102.

GRAEFF, Erhardt C. What We Should Do Before the Social Bots Take Over: Online Privacy Protection and the Political Economy of Our Near Future. 2014.

KHAN, Arijit, et al. Neighborhood based fast graph search in large networks. In:Proceedings of the 2011 ACM SIGMOD International Conference on Management of data. ACM, 2011. p. 901-912.

KRAMER, Adam DI; GUILLORY, Jamie E.; HANCOCK, Jeffrey T. Experimental evidence of massive-scale emotional contagion through social networks.Proceedings of the National Academy of Sciences, 2014, 201320040.

KRAMER, Adam. cit.[13-07-2014]. https://www.facebook.com/akramer/posts/10152987150867796.

LORENZ, Edward. 7. The Butterfly Effect. The chaos avant-garde: Memories of the early days of chaos theory, 2000, 39: 91.



[1] Vše je mimořádně transparentně popsáno v článku KRAMER, Adam DI; GUILLORY, Jamie E.; HANCOCK, Jeffrey T. Experimental evidence of massive-scale emotional contagion through social networks. Příspěvky byly monitorovány a filtrovány na News feed, tedy předchůdci Timeline.

[2] KHAN, Arijit, et al. Neighborhood based fast graph search in large networks.

[3] KRAMER, Adam DI; GUILLORY, Jamie E.; HANCOCK, Jeffrey T. Experimental evidence of massive-scale emotional contagion through social networks.

[4] Na tomto místě si dovolíme ještě drobnou poznámku. Článek je z hlediska vědeckého statistického zpracování na mimořádné úrovni a v rámci disciplíny by mohl být ukázkou toho, jak metodologicky i instrumentálně v podobných experimentech postupovat. A to včetně velice střízlivé interpretace.

[5] Pojem byl užit LORENZ, Edward. The Butterfly Effect.a týká se citlivosti systému na nějakou (na první pohled zanedbatelnou) změnu.

[7] BOSHMAF, Yazan, et al. The socialbot network: when bots socialize for fame and money.

[8] GRAEFF, Erhardt C. What We Should Do Before the Social Bots Take Over: Online Privacy Protection and the Political Economy of Our Near Future.

[9] BOOTH, Robert. Facebook reveals news feed experiment to control emotions. 

[10] Nejde o nijak triviální záležitost. Jestliže běžně říkáme, že zdraví je to nejdůležitější, nebo přejeme hlavně zdraví, nečiníme z něj nic menšího, než nejdůležitější hodnotu. Pozitivní sociální sítě mohou být sice manipulativní, ale díky velkému dopadu budou mít pozitivní vliv na zdraví i ekonomiku. Z hlediska etického paradigmatu toho, co běžně označujeme jako „konzumní způsob života“ byl experiment problematický ne v samotném filtrování, ale v negativním dopadu na skupinu se smutnými a špatnými zprávami. To ale nemohl nikdo očekávat, takže jedinou eticky přijatelnou cestou je budování a prosazování takových pozitivních sítí. Cesty, jak toho dosáhnout jsou zatím otevřené.

Fotogalerie

Líbil se vám článek?
Stáhnout článek v PDF

0 komentářů

Přidat komentář

(If you're a human, don't change the following field)
Your first name.
(If you're a human, don't change the following field)
Your first name.

Přečtěte si také

Přihlášení Registrace
RSS Facebook Twitter YouTube
Zobrazit standardní verzi webu

Taky děláme

Feedback