Taktika šírenia dezinformácií: Ako je napadnutý ľudský mozog

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Októbra 4, 2023

Súhrn prehľadu

Dezinformácie sa šíria prostredníctvom taktiky, ako je model nákazy a šifrované aplikácie. Skupiny ako Ghostwriter sa zameriavajú na jednotky NATO a USA, zatiaľ čo AI manipuluje s verejnou mienkou. Ľudia často dôverujú známym zdrojom, vďaka čomu sú náchylní na nepravdivé informácie. To by mohlo viesť k viacerým dezinformačným kampaniam založeným na AI, prísnejším vládnym nariadeniam, zvýšenému používaniu šifrovaných aplikácií extrémistami, zvýšenej kybernetickej bezpečnosti v médiách a vzdelávacím kurzom o boji proti dezinformáciám.

Taktika šírenia dezinformačného kontextu

Dezinformačné taktiky sú nástroje a stratégie, ktoré sa často používajú na sociálnych sieťach a vytvárajú pandémiu falošných presvedčení. Táto manipulácia s informáciami viedla k rozšírenému nepochopeniu tém od podvodov na voličoch až po to, či sú násilné útoky skutočné (napr. streľba na základnej škole v Sandy Hook) alebo či sú vakcíny bezpečné. Keďže falošné správy sa naďalej zdieľajú na rôznych platformách, vyvolalo to hlbokú nedôveru voči sociálnym inštitúciám, ako sú médiá. Jedna teória o tom, ako sa šíria zavádzajúce informácie, sa nazýva Contagion Model, ktorý je založený na fungovaní počítačových vírusov. Sieť je tvorená uzlami, ktoré predstavujú ľudí, a okrajmi, ktoré symbolizujú sociálne prepojenia. Koncept je zasadený v jednej „mysli“ a šíri sa za rôznych podmienok a v závislosti od sociálnych vzťahov.

Nepomáha ani to, že technológie a zvyšujúca sa digitalizácia spoločnosti pomáhajú zefektívniť dezinformačné taktiky ako kedykoľvek predtým. Príkladom sú aplikácie na zašifrovanie správ (EMA), ktoré nielenže uľahčujú zdieľanie nepravdivých informácií osobným kontaktom, ale tiež znemožňujú spoločnostiam zaoberajúcim sa aplikáciami sledovať zdieľané správy. Napríklad krajne pravicové skupiny prešli do EMA po útoku na Capitol v januári 2021, pretože bežné platformy sociálnych médií ako Twitter ich zakázali. Dezinformačné taktiky majú okamžité a dlhodobé následky. Okrem volieb, kde pochybné osobnosti s kriminálnymi záznamami vyhrávajú cez trollie farmy, môžu marginalizovať menšiny a napomáhať vojnovej propagande (napr. ruská invázia na Ukrajinu). 

Rušivý vplyv

V roku 2020 vydala bezpečnostná spoločnosť FireEye správu, v ktorej zdôraznila dezinformačné snahy skupiny hackerov s názvom Ghostwriter. Propagandisti od marca 2017 šírili lži najmä proti vojenskej aliancii Severoatlantická aliancia (NATO) a americkým jednotkám v Poľsku a Pobaltí. Na sociálnych sieťach a proruských spravodajských weboch zverejnili sfalšovaný materiál. Ghostwriter niekedy využíva agresívnejší prístup: hackovanie systémov správy obsahu (CMS) spravodajských webov, aby uverejňovali svoje vlastné príbehy. Skupina potom distribuuje svoje falošné správy pomocou falošných e-mailov, príspevkov na sociálnych sieťach a dokonca aj nimi napísaných komentárov na iných stránkach, ktoré prijímajú obsah od čitateľov.

Ďalšia dezinformačná taktika využíva algoritmy a umelú inteligenciu (AI) na manipuláciu verejnej mienky na sociálnych médiách, ako je „posilňovanie“ sledovateľov sociálnych médií prostredníctvom robotov alebo vytváranie automatických účtov trollov na uverejňovanie nenávistných komentárov. Odborníci tomu hovoria výpočtová propaganda. Medzitým výskum The New York Times zistil, že politici používajú e-mail na šírenie dezinformácií častejšie, než si ľudia uvedomujú. V USA sú obe strany vinné z používania hyperboly vo svojich e-mailoch adresovaných voličom, čo môže často podporovať zdieľanie nepravdivých informácií. 

Existuje niekoľko kľúčových dôvodov, prečo ľudia prepadajú dezinformačným kampaniam. 

• Po prvé, ľudia sú spoločenskí študenti a majú tendenciu dôverovať svojim zdrojom informácií, ako sú priatelia alebo rodinní príslušníci. Títo ľudia zase získavajú správy od dôveryhodných priateľov, čo sťažuje prelomenie tohto cyklu. 
• Po druhé, ľudia často nedokážu proaktívne overiť fakty, ktoré konzumujú, najmä ak sú zvyknutí získavať správy z jedného zdroja (často tradičné médiá alebo obľúbené sociálne médiá platformy ako Facebook alebo Twitter). Keď vidia titulok alebo obrázok (a dokonca len značku), ktorý podporuje ich presvedčenie, často nespochybňujú pravosť týchto tvrdení (bez ohľadu na to, aké sú smiešne). 
• Echo komory sú silné dezinformačné nástroje, vďaka ktorým sa ľudia s opačným presvedčením automaticky stávajú nepriateľmi. Ľudský mozog je pevne nastavený tak, aby vyhľadával informácie, ktoré podporujú existujúce nápady, a nerešpektoval informácie, ktoré idú proti nim.

Širšie dôsledky taktiky šírenia dezinformácií

Možné dôsledky taktiky šírenia dezinformácií môžu zahŕňať: 

• Viac spoločností, ktoré sa špecializujú na AI a roboty, aby pomohli politikom a propagandistom získať nasledovníkov a „dôveryhodnosť“ prostredníctvom šikovných dezinformačných kampaní.
• Vlády sú pod tlakom, aby vytvorili anti-dezinformačné zákony a agentúry na boj proti trolím farmám a stratégom v oblasti dezinformácií.
• Zvyšovanie počtu sťahovaní EMA pre extrémistické skupiny, ktoré chcú šíriť propagandu a ničiť povesť.
• Mediálne stránky investujúce do drahých riešení kybernetickej bezpečnosti, aby zabránili dezinformačným hackerom v ukladaní falošných správ do ich systémov. V tomto procese moderovania možno použiť nové generatívne riešenia AI.
• Zlí herci môžu využívať generatívne roboty poháňané AI na produkciu vlny propagandistického a dezinformačného mediálneho obsahu vo veľkom rozsahu.
• Zvýšený tlak na univerzity a komunitné školy na zaraďovanie antidezinformačných kurzov. 

Otázky na zváženie

• Ako sa chrániť pred dezinformačnými taktikami?
• Ako inak môžu vlády a agentúry zabrániť šíreniu týchto taktík?