Tattiche chì sparghje a disinformazione: Cumu hè invaditu u cervellu umanu

• Author:
• Nome di l'autore

  Quantumrun Foresight
• October 4, 2023

Riassuntu insight

A misinformazione si sparghje per mezu di tattiche cum'è u Modellu di Contagion è l'applicazioni criptate. Gruppi cum'è Ghostwriter miranu à e truppe di l'OTAN è di i Stati Uniti, mentri l'AI manipula l'opinione publica. A ghjente spessu fiducia in fonti familiari, facenduli suscettibili à false informazioni. Questu puderia purtà à più campagni di disinformazione basati in AI, rigulamenti di u guvernu più forti, più usu di l'applicazioni criptate da estremisti, cibersicurezza aumentata in i media, è corsi educativi nantu à a lotta à a disinformazione.

Tattiche chì sparghjenu u cuntestu di disinformazione

E tattiche di misinformazione sò strumenti è strategie spessu appiicati nantu à i siti di rete suciale, creendu una pandemia di false credenze. Questa manipulazione di l'infurmazioni hà risultatu in un malintesi generalizatu annantu à temi chì varianu da a frode di l'elettore à se l'attacchi viulenti sò veri (per esempiu, a sparatoria di a scola elementaria di Sandy Hook) o se i vaccini sò sicuri. Siccomu e nutizie false cuntinueghjanu à esse sparte in diverse piattaforme, hà creatu una profonda sfiducia contr'à l'istituzioni suciali cum'è i media. Una teoria di cumu si sparghje l'informazioni ingannevoli hè chjamata Mudellu di Contagion, chì hè basatu annantu à u funziunamentu di i virus informatici. Una reta hè creata da i nodi, chì rapprisentanu a ghjente, è i bordi, chì simbulizeghjanu ligami suciali. Un cuncettu hè suminatu in una "mente" è si sparghje in diverse cundizioni è secondu e relazioni suciali.

Ùn aiuta micca chì a tecnulugia è a digitalizazione crescente di a società aiutanu à fà e tattiche di misinformazione più efficaci chè mai. Un esempiu hè l'applicazioni di messageria criptata (EMA), chì ùn solu facilitanu u sparte di falsi infurmazioni à i cuntatti persunali, ma rende ancu impussibile per e cumpagnie di app per seguità i missaghji chì sò spartuti. Per esempiu, i gruppi di estrema destra sò trasferiti à l'EMA dopu l'attaccu di u Capitoliu di i Stati Uniti di ghjennaghju 2021 perchè e plataforme di rete suciale mainstream cum'è Twitter li anu pruibitu. E tattiche di disinformazione anu cunsequenze immediata è à longu andà. A parti di l'elezzioni induve e persunalità discutibili cù i registri di crimini vincenu attraversu l'agricultori troll, ponu marginalizà e minurità è facilità a propaganda di guerra (per esempiu, l'invasione di l'Ucraina in Russia). 

Impact disruptive

In u 2020, a cumpagnia di sicurezza FireEye hà publicatu un rapportu chì mette in risaltu i sforzi di disinformazione di un gruppu di pirate chjamati Ghostwriter. Dapoi u marzu di u 2017, i propagandisti sparghjenu bugie, in particulare contr'à l'alianza militare di l'Organizazione di u Trattatu di l'Atlanticu Nordu (NATO) è e truppe americane in Pulonia è in u Balticu. Anu publicatu materiale falsificatu nantu à e social media è siti web di notizie pro-russi. Ghostwriter hà qualchì volta utilizatu un approcciu più aggressivu: pirate i sistemi di gestione di cuntenutu (CMS) di siti web di nutizie per postà e so storie. U gruppu poi distribuisce e so nutizie falsi cù e-mail falsi, post di e social media, è ancu op-eds scritti da elli in altri siti chì accettanu cuntenutu da i lettori.

Un'altra tattica di disinformazione usa l'algoritmi è l'intelligenza artificiale (AI) per manipulà l'opinione publica nantu à e social media, cum'è "aumentà" i seguitori di e social media attraversu bots o creanu cunti troll automatizati per publicà cumenti odiosi. I sperti chjamanu sta propaganda computazionale. Intantu, a ricerca di u New York Times hà scupertu chì i pulitici utilizanu l'email per sparghje a disinformazione più spessu di ciò chì a ghjente capisce. In i Stati Uniti, i dui partiti sò culpevuli di utilizà l'iperbole in i so e-mail à i cumpunenti, chì spessu ponu incuragisce à sparta infurmazioni falsi. 

Ci hè uni pochi di mutivi chjave per quessa chì a ghjente casca per campagni di misinformazione. 

• Prima, e persone sò studianti suciali è tendenu à fidà di e so fonti d'infurmazioni cum'è amichi o membri di a famiglia. Queste persone, à u turnu, ricevenu e so nutizie da l'amichi di fiducia, chì facenu difficiule di rompe stu ciculu. 
• Siconda, a ghjente spessu ùn riesce à verificà in modu proattivu l'infurmazioni chì cunsuma, soprattuttu s'ellu sò abituati à uttene e so nutizie da una fonte (spessu i media tradiziunali o i so media suciale preferiti). piattaforme cum'è Facebook o Twitter). Quandu vedanu un titulu o una maghjina (è ancu solu di marca) chì sustene e so credenze, spessu ùn ponenu micca in dubbitu l'autenticità di sti rivendicazioni (ùn importa quantu ridiculu). 
• E camere di eco sò strumenti putenti di disinformazione, chì facenu automaticamente e persone cun credenze opposte u nemicu. U cervellu umanu hè cablatu per circà l'infurmazioni chì sustene l'idee esistenti è l'infurmazioni di scontu chì vanu contru à elli.

Implicazioni più larghe di tattiche sparghje a disinformazione

I pussibuli implicazioni di e tattiche chì sparghjenu a disinformazione ponu include: 

• Più cumpagnie specializate in AI è bots per aiutà i pulitici è i propagandisti à guadagnà seguitori è "credibilità" attraversu campagne di disinformazione intelligenti.
• I guverni sò pressati per creà leggi è agenzie anti-disinformazione per cumbatte l'agricultori troll è i strategisti di misinformazione.
• Aumentà i download di EMA per i gruppi estremisti chì volenu sparghje a propaganda è arruvinà a reputazione.
• I siti di media chì investenu in suluzioni di cibersecurità caru per impediscenu à i pirate di disinformazione da plantà nutizie false in i so sistemi. Nuvelle soluzioni AI generative ponu esse impiegate in stu prucessu di moderazione.
• I bots generativi alimentati da AI ponu esse impiegati da i cattivi attori per pruduce una onda di propaganda è cuntenutu di media di disinformazione à scala.
• Pressione aumentata per l'università è e scole di a cumunità per include corsi anti-disinformazione. 

Dumande da cunsiderà

• Cumu si prutegge da e tattiche di disinformazione?
• Cumu altrimente i guverni è l'agenzii ponu impedisce a diffusione di queste tattiche?