Taktika šíření dezinformací: Jak je napaden lidský mozek

• Autor:
• jméno autora

  Quantumrun Foresight
• Října 4, 2023

Shrnutí statistik

Dezinformace se šíří prostřednictvím taktik, jako je Contagion Model a šifrované aplikace. Skupiny jako Ghostwriter se zaměřují na jednotky NATO a USA, zatímco AI manipuluje veřejným míněním. Lidé často důvěřují známým zdrojům, takže jsou náchylní k nepravdivým informacím. To by mohlo vést k většímu počtu dezinformačních kampaní založených na AI, silnějším vládním regulacím, zvýšenému používání šifrovaných aplikací extremisty, zvýšené kybernetické bezpečnosti v médiích a vzdělávacím kurzům o boji proti dezinformacím.

Taktika šíření dezinformačního kontextu

Dezinformační taktiky jsou nástroje a strategie často používané na sociálních sítích a vytvářejí pandemii falešných přesvědčení. Tato manipulace s informacemi vyústila v rozšířené nedorozumění ohledně témat od podvodů s voliči až po to, zda jsou násilné útoky skutečné (např. střelba na základní škole Sandy Hook) nebo zda jsou vakcíny bezpečné. Vzhledem k tomu, že falešné zprávy jsou nadále sdíleny na různých platformách, vyvolalo to hlubokou nedůvěru vůči sociálním institucím, jako jsou média. Jedna teorie o tom, jak se šíří zavádějící informace, se nazývá Contagion Model, který je založen na tom, jak fungují počítačové viry. Síť je tvořena uzly, které představují lidi, a hranami, které symbolizují sociální vazby. Pojem je zasazen do jedné „mysli“ a šíří se za různých podmínek a v závislosti na sociálních vztazích.

Nepomáhá ani to, že technologie a zvyšující se digitalizace společnosti pomáhají zefektivnit taktiku dezinformací než kdy jindy. Příkladem jsou aplikace pro šifrované zasílání zpráv (EMA), které nejen usnadňují sdílení nepravdivých informací osobním kontaktům, ale také znemožňují společnostem zabývajícím se aplikacemi sledovat sdílené zprávy. Například krajně pravicové skupiny přešly do EMA po útoku na Capitol v lednu 2021, protože je mainstreamové platformy sociálních médií jako Twitter zakázaly. Dezinformační taktiky mají okamžité i dlouhodobé důsledky. Kromě voleb, kde pochybné osobnosti s kriminálními záznamy vítězí na trollích farmách, mohou marginalizovat menšiny a usnadňovat válečnou propagandu (např. ruská invaze na Ukrajinu). 

Rušivý dopad

V roce 2020 vydala bezpečnostní společnost FireEye zprávu zdůrazňující dezinformační snahy skupiny hackerů zvané Ghostwriter. Od března 2017 propagandisté ​​šíří lži, zejména proti vojenské alianci Organizace Severoatlantické smlouvy (NATO) a americkým jednotkám v Polsku a Pobaltí. Na sociálních sítích a proruských zpravodajských webech zveřejnili padělaný materiál. Ghostwriter někdy používá agresivnější přístup: hackování systémů pro správu obsahu (CMS) zpravodajských webů, aby zveřejnili své vlastní příběhy. Skupina pak šíří své falešné zprávy pomocí falešných e-mailů, příspěvků na sociálních sítích a dokonce jimi napsaných op-ed na jiných webech, které přijímají obsah od čtenářů.

Další dezinformační taktika využívá algoritmy a umělou inteligenci (AI) k manipulaci s veřejným míněním na sociálních sítích, jako je „posilování“ následovníků na sociálních sítích pomocí robotů nebo vytváření automatických účtů trollů pro zveřejňování nenávistných komentářů. Odborníci tomu říkají počítačová propaganda. Mezitím výzkum The New York Times zjistil, že politici používají e-mail k šíření dezinformací častěji, než si lidé uvědomují. V USA se obě strany provinily používáním nadsázky ve svých e-mailech zaslaných voličům, což může často podporovat sdílení nepravdivých informací. 

Existuje několik klíčových důvodů, proč lidé propadají dezinformačním kampaním. 

• Za prvé, lidé jsou sociální studenti a mají tendenci důvěřovat svým zdrojům informací, jako jsou přátelé nebo členové rodiny. Tito lidé zase získávají zprávy od důvěryhodných přátel, takže je obtížné tento cyklus prolomit. 
• Za druhé, lidé často nedokážou proaktivně ověřovat fakta, které konzumují, zvláště pokud jsou zvyklí získávat zprávy z jednoho zdroje (často tradiční média nebo oblíbené sociální sítě). platformy jako Facebook nebo Twitter). Když vidí titulek nebo obrázek (a dokonce jen značku), který podporuje jejich přesvědčení, často nezpochybňují pravost těchto tvrzení (bez ohledu na to, jak směšné jsou). 
• Echo komory jsou mocné dezinformační nástroje, které automaticky dělají z lidí s opačným přesvědčením nepřítele. Lidský mozek je pevně nastaven tak, aby vyhledával informace, které podporují existující myšlenky, a slevoval z informací, které jsou proti nim.

Širší důsledky taktiky šíření dezinformací

Možné důsledky taktiky šíření dezinformací mohou zahrnovat: 

• Více společností specializujících se na AI a roboty, které pomáhají politikům a propagandistům získat následovníky a „důvěryhodnost“ prostřednictvím chytrých dezinformačních kampaní.
• Vlády jsou pod tlakem, aby vytvořily anti-dezinformační zákony a agentury pro boj proti trollím farmám a dezinformačním stratégům.
• Zvyšující se počet stahování EMA pro extremistické skupiny, které chtějí šířit propagandu a ničit pověst.
• Mediální weby, které investují do drahých řešení kybernetické bezpečnosti, aby zabránily hackerům v oblasti dezinformací zasazovat do jejich systémů falešné zprávy. V tomto procesu moderování lze použít nová generativní řešení umělé inteligence.
• Špatní herci mohou využívat generativní roboty poháněné umělou inteligencí, aby vytvořili vlnu propagandistického a dezinformačního mediálního obsahu ve velkém měřítku.
• Zvýšený tlak na univerzity a komunitní školy, aby zařazovaly kurzy proti dezinformacím. 

Otázky k zamyšlení

• Jak se chráníte před dezinformační taktikou?
• Jak jinak mohou vlády a agentury zabránit šíření této taktiky?