AI a propaganda
Plošná reklama v politických kampaniach a propagande je „old school“. Online priestor prechádza rýchlou premenou a ponúka neustále nové možnosti ovplyvňovania ľudí. Akú úlohu v celom mechanizme hrá AI? Aký vplyv majú odporúčacie systémy? Čo prináša generatívna umelá inteligencia? Je vôbec možné sa účinne brániť — či už systémovo alebo ako jednotlivci?
O debate
Debata prebehla 28. 5. 2024
Moderoval ju Ondřej Hrách z Aignos
Odkaz na udalosť na Facebooku
Autorom článku je žurnalista Jiří Labanc
Rečníkmi boli
Spoluautor podcastu Kanárci v síti. Technolog s vášní pro vše lidské a stejně hlubokou nedůvěrou k technoutopismu. Pracoval ve firmách jako je Sun Microsystems, MSD, Avast nebo Semantic Visions.
Přes téma rizik umělé inteligence se v posledních letech dostal k širšímu tématu digitálních manipulací, výpočetní propagandy a dezinformací, o kterých spoluvytváří český podcast Kanárci v Síti a přednáší na FIT ČVUT předmět “Hacking mysli”.
Veronika Batelková je lektorkou mediální a informační gramotnosti. Lektoruje od roku 2018 a nejvíce se zaměřuje na učitele, knihovníky a další vzdělavatele, zároveň má letité zkušenosti s žáky a studenty. Vede organizaci Zvol si info bojující proti dezinformacím, pořádá mezinárodní školicí projekty pro pracovníky s mládeží a podílí se na výuce několika univerzitních kurzů na Masarykově univerzitě, kde úspěšně absolvovala studium žurnalistiky, politologie a informačních věd se zaměřením na technologie ve vzdělávání.
Ako môžu umelá inteligencia a propaganda rozvrátiť dôveru?
Výsadné postavenie v online priestore už nemá len ľuďmi tvorený obsah, do informačného prostredia sa dostáva aj ten strojovo generovaný. Jeho účelom navyše nemusí byť ani tak posilnenie dôvery, ako skôr cieľ poškodiť ju. O tom, ako spolu súvisia propaganda, umelá inteligencia a algoritmy sociálnych sietí, diskutujú účastníci tretej debaty AI horizontov.
Podľa lektorky mediálnej a informačnej gramotnosti Veroniky Batelkovej umelá inteligencia vstupuje do témy propagandy a dezinformácií cez nástroje na zatraktívnenie ponúkaných informácií. „Manipulácia bude uveriteľnejšia, horšie rozpoznateľná,“ mieni. Batelková takisto popri úlohe obsahu pripomína odporúčacie systémy, ktoré sú zodpovedné za šírenie informácií na online platformách. „AI do propagandy vnáša rýchlejšiu a lepšie zacielenú produkciu dezinformácií, navyše vo väčšom množstve. Môžeme totiž pomocou dostupných AI nástrojov brať do úvahy aj psychologické javy a charakteristiky osobnosti a ušiť tak správu na mieru,“ tvrdí Batelková.
„S nástupom generatívnej AI sa zdá, že vstupujeme do nového sveta propagandy. Pravdou ale je, že v tomto svete žijeme už viac ako 15 rokov,“ naráža zasa Josef Holý na fakt, že už v roku 2006 sociálna sieť Facebook spustila newsfeed, ktorý filtruje obsah viditeľný na stene používateľa, takzvanú timeline. Dodáva, že na manipuláciu už nie je nutné využívať lož. „Stačí informácie zasadiť do správneho kontextu, nepovedať celú pravdu. Posunie sa tak vnímanie určitého fenoménu,“ hovorí Holý, ktorý je autorom technologického podcastu Kanárci v síti.
Holý naznačuje, že doteraz používaná definícia dezinformácie, teda že ide o „lživú informáciu, ktorá je zámerne vytvorená s cieľom mätia verejnosti“, už nemusí platiť. Propagandu ako takú potom definuje ako zneužitie emócií vo verejnej komunikácii. Práve vďaka personalizovanému obsahu sa môže propaganda aj efektívne šíriť. Ale po poriadku.
Cambridge Analytica pre každého
Napriek negatívam môžu AI nástroje manipuláciu aj včas odhaliť. Do istej miery. „Je napríklad riskantné využívať detektory písaného textu. Jednoducho preto, že nefungujú správne. Chybovosť je príliš vysoká a môže to vo výsledku poškodiť vzťah medzi študentmi a učiteľmi,“ tvrdí Holý.
„Na druhej strane,“ podotýka Veronika Batelková, „umelá inteligencia prináša obrovský potenciál do vzdelávania, pretože dokáže personalizovať a zefektívňovať výučbu.“ Holý s ňou súhlasí. „Potenciál vidím v osobných asistentoch, ktorí nám pomôžu okrem iného vyznať sa v informačnom zahltení. Takéto nástroje sa napokon snažia vyvíjať aj firmy ako Apple či Microsoft.“
Práve informačné zahltenie je faktor, ktorý podľa skúseností Batelkovej často riešia mladí ľudia. „Na workshopoch počúvam, že ‚všade len klamú‘. Študenti tak nemajú jasno v tom, čo je a čo nie je pravda. V dôsledku potom napríklad nechodia k voľbám.“
Holý v súvislosti s manipuláciou spomína, že prácu takzvaných trolích fariem – organizovaných centier na ovplyvňovanie verejného priestoru – už prevzali veľké jazykové modely (LLM) a odborníci na marketing. Korpus celého internetu, na ktorom sa veľké jazykové modely učili, totiž vytvára reprezentatívnu vzorku spoločnosti. Aktéri v pozadí manipulácií si tak môžu nasimulovať vlastného analytika či cieľovú skupinu, prípadne zanalyzovať obsah na sociálnych sieťach a získať tak „veľkú päťku osobnostných čŕt“ (v angl. OCEAN profile), podľa ktorej sa bežne dajú pochopiť potreby cieľového publika. „A tento profil navyše vytvoríte na základe niekoľkých dlhších príspevkov na Facebooku. Je to nedokonalé, ale určitý obraz o používateľovi tento prístup poskytuje. Je to taká Cambridge Analytica pre každého,“ pripomína Holý celosvetovú kauzu, počas ktorej rovnomenná firma zbierala a zneužívala osobné dáta používateľov Facebooku okrem iného pre volebnú kampaň Donalda Trumpa.
Čo však na jednej strane spektra využíva čierna propaganda, môže využiť vo svoj prospech aj strategická komunikácia na opačnej strane. „Problém je nastaviť jej štátnemu aparátu právomoci vo chvíli, keď v nasledujúcom volebnom období môže byť zvolená strana, ktorá prípadné centrum strategickej komunikácie preorientuje z hodnotovej a prodemokratickej propagandy na tú čiernu,“ tvrdí Josef Holý.
Holý spomína, že základný kvalitatívny posun nastal v okamihu, keď sa spoločnosť vzdala dohľadu nad informačným priestorom. „Kontrolu sme prenechali technológom s jedinou metrikou – KPI, teda našou pozornosťou.“ Vysoko postavené postavy technologického priemyslu podľa Holého na konferenciách nehovoria o tom, koľko dobra ich platformy priniesli – napríklad koľko bývalých spolužiakov zblížili –, ale koľko hodín dokázali sociálne siete udržať používateľov pri obrazovkách. Dodáva, že technologickí giganti robia všetko pre to, aby spoločnosť nad algoritmami dohľad nemala.
„Facebook tento rok v auguste ukončí CrowdTangle. Tento nástroj slúžil analytikom na sledovanie a analýzu prevádzky a kampaní. CrowdTangle síce nahradia iným nástrojom, no nebude mať také kapacity a schopnosti. K tomu navyše pripočítajme, že tento rok máme volebný rok – k urnám pôjde okolo 60 krajín. Meta sa netají ani obmedzením dosahu pre politický obsah na svojich platformách. V praxi to ale znamená, že zmetie všetkých aktivistov za ľudské práva, ženské práva, témy o LGBTQ a ďalšie. Pretože kvôli týmto témam sa vedú politické a kultúrne vojny. Okrem iného aj vďaka algoritmom,“ hovorí.
TikTok? Zakázať
Témou debaty AI horizontov bolo aj šírenie emócií na sociálnych sieťach. Josef Holý v tejto súvislosti spomína štúdiu, podľa ktorej sa lživé či zavádzajúce informácie šíria na sociálnej sieti X (predtým Twitter) oveľa rýchlejšie ako pravda. „Je však dôležité spomenúť, že viac ako lož je dôležitý emočný obal, do ktorého je prípadná lož zabalená,“ hovorí Holý.
Na bežných používateľov a ich vnímanie reality majú vplyv aj agregátory správ. Keď minulý rok zaútočilo hnutie Hamas na Izrael, k tejto krajine sa obrátila celosvetová pozornosť. Následná štúdia výskumníkov z Center for an Informed Public z Washingtonskej univerzity poukázala na silný vplyv účtov, ktoré o situácii informovali na sieti X. Tri dni od útoku Twitter ovládol účet Visegrád 24, ktorý na príspevkoch o vojne nazbieral 371 miliónov zhliadnutí. Medzi sedmičkou najsledovanejších účtov nebolo ani jedno tradičné médium. Pre porovnanie, účet CNN Breaking News (ktorý sa spomedzi spravodajských médií umiestnil na prvej priečke) získal za rovnaký čas iba 63 miliónov zhliadnutí.
Hoci anonymný Visegrád 24 dáva najavo, že správy iba preberá, práve toto priznanie poukazuje na zásadný problém – pozornosti sa dostáva subjektom s prinajmenšom nepriehľadnými cieľmi (pri Visegráde ich však popisuje novinár Jakub Jetmar pre server Mediář) a autorskými štruktúrami. Okrem iného tak účty dokážu využívať propagandu vo svoj prospech. A pretože informácie dokážu zabaliť do emočného hávu – na rozdiel od tradičných serióznych médií –, majú väčšiu šancu dosiahnuť vyššie metriky, kam ich posunú algoritmy sociálnej siete.
Veronika Batelková spomína tiež influencerov „spravodajcov“, ktorých často sleduje mladšia generácia. „Na jednej strane sú to skvelé projekty, na druhej strane im chýba novinárske pozadie. Nemôžu teda nikdy byť úplne nestranní a objektívni.“ Josef Holý dopĺňa, že od novinárov ich odlišujú procesy tvorby obsahu. „Keď novinárovi zavoláte a ponúknete mu nejaké zistenie, buď vám to zloží, alebo si vaše tvrdenie najprv overí. S pribúdajúcimi fanúšikmi na účtoch influencerov sa potom ľahšie šíri myšlienkový smer, ktorým sa bežní používatelia dajú ovplyvniť.“
Podľa skúseností Batelkovej mladí ľudia čerpajú digitálny obsah z čínskej aplikácie TikTok. Reakcie na zbieranie dát o používateľoch sú podľa nej dvojaké. „Jedni sú prekvapení, čo všetko o nich sociálna sieť vie, druhí nad hrozbami o zneužití dát mávnu rukou, pretože predsa nie sú známi a dôležití. Lenže dôležití nie sú možno teraz v školskom veku. V dospelosti môžu byť vplyvnými ľuďmi. Čínsky režim (s ktorým podľa tamojších zákonov musí prevádzkovateľ TikToku zdieľať svoje dáta) potom bude mať dokonalý profil danej osoby.“
O TikToku ako o hrozbe sa informuje už niekoľko rokov. Svoju víziu stavia prevádzkovateľ sociálnej siete na myšlienke vytvoriť najlepší odporúčací algoritmus. „A podľa ľudí z Facebooku je algoritmus TikToku návykovejší, vie lepšie cieliť na používateľa, zbiera lepšie signály. Hoci je inkorporovaný v Amerike, vlastní ho čínska firma ByteDance. S tým sa neodvratne spája aj vplyv čínskej vlády. Problém je, že o tomto vplyve nemáme priame dôkazy. Predstavte si ale, že ste v Spojených štátoch amerických v 60. rokoch, teda v období studenej vojny, a v Amerike by bola celoplošná televízia prevádzkovaná Sovietskym zväzom. Rozhodne by nebolo možné takúto televíziu vzhľadom na vtedajšiu atmosféru prevádzkovať. S TikTokom je to teraz rovnaká situácia,“ vysvetľuje Josef Holý.
Autor podcastu Kanárci v síti dodáva, že by u nás TikTok zakázal. „Je to hodnotový boj západných spoločností proti totalitnej Číne. Napokon Číňania západné sociálne siete na svojom území tiež zakázali. Neviem, prečo by mali svoje platformy prevádzkovať u nás,“ hovorí s tým, že algoritmus na území Číny je iný ako vo zvyšku sveta. Tretinu podľa Holého tvorí vzdelávací obsah, tretinu zábava a nakoniec čínska propaganda.
„Ako bojovať proti manipuláciám? Som zastankyňou vzdelávania,“ mieni Veronika Batelková, „ale to samotné nestačí. Dôležité je posilniť a podporovať kvalitnú žurnalistiku, aby sme vnímali a čítali skutočne overené informácie. Nepreháňajme to však. Sme až príliš excitovaní a málo času venujeme tráveniu prijímaných informácií. Je v poriadku sa diania v informačnom priestore občas nezúčastňovať,“ myslí si Batelková.