Taktik som sprider desinformation: Hur den mänskliga hjärnan invaderas

• Författare:
• författarnamn

  Quantumrun Framsyn
• Oktober 4, 2023

Insiktssammanfattning

Desinformation sprids genom taktik som smittspridningsmodellen och krypterade appar. Grupper som Ghostwriter riktar sig mot NATO och amerikanska trupper, medan AI manipulerar den allmänna opinionen. Människor litar ofta på välbekanta källor, vilket gör dem mottagliga för falsk information. Detta kan leda till fler AI-baserade desinformationskampanjer, starkare statliga regleringar, ökad användning av krypterade appar av extremister, ökad cybersäkerhet i media och utbildningskurser om att bekämpa desinformation.

Taktik som sprider desinformationskontext

Desinformationstaktik är verktyg och strategier som ofta används på sociala nätverkssajter, vilket skapar en pandemi av falska övertygelser. Denna manipulation av information har resulterat i ett utbrett missförstånd om ämnen som sträcker sig från väljarbedrägeri till huruvida våldsamma attacker är verkliga (t.ex. Sandy Hook grundskoleskjutning) eller om vacciner är säkra. Eftersom falska nyheter fortsätter att delas över olika plattformar har det skapat en djup misstro mot sociala institutioner som media. En teori om hur vilseledande information sprids kallas Contagion Model, som bygger på hur datavirus fungerar. Ett nätverk skapas av noder, som representerar människor, och kanter, som symboliserar sociala länkar. Ett koncept är sådd i ett "sinne" och sprids under olika förhållanden och beroende på sociala relationer.

Det hjälper inte att tekniken och den ökande digitaliseringen av samhället hjälper till att göra desinformationstaktik effektivare än någonsin. Ett exempel är krypterade meddelandeappar (EMA), som inte bara underlättar delning av falsk information till personliga kontakter utan också gör det omöjligt för appföretag att spåra de meddelanden som delas. Till exempel flyttade högerextrema grupper till EMA efter attacken på amerikanska Capitolium i januari 2021 eftersom vanliga sociala medieplattformar som Twitter förbjöd dem. Desinformationstaktik har omedelbara och långsiktiga konsekvenser. Bortsett från val där tvivelaktiga personligheter med brottsregister vinner genom trollfarmar, kan de marginalisera minoriteter och underlätta krigspropaganda (t.ex. Rysslands Ukraina-invasion). 

Störande inverkan

År 2020 släppte säkerhetsföretaget FireEye en rapport som lyfter fram desinformationsinsatserna från en grupp hackare som heter Ghostwriter. Sedan mars 2017 har propagandisterna spridit lögner, särskilt mot militäralliansen North Atlantic Treaty Organisation (NATO) och amerikanska trupper i Polen och Baltikum. De har publicerat förfalskat material på sociala medier och pro-ryska nyhetswebbplatser. Ghostwriter har ibland använt ett mer aggressivt tillvägagångssätt: hacka innehållshanteringssystem (CMS) på nyhetswebbplatser för att publicera sina egna berättelser. Gruppen distribuerar sedan sina falska nyheter med hjälp av falska e-postmeddelanden, inlägg på sociala medier och till och med kommentarer skrivna av dem på andra webbplatser som accepterar innehåll från läsare.

En annan desinformationstaktik använder algoritmer och artificiell intelligens (AI) för att manipulera den allmänna opinionen på sociala medier, som att "boosta" följare på sociala medier genom bots eller skapa automatiserade trollkonton för att posta hatiska kommentarer. Experter kallar detta för beräkningspropaganda. Samtidigt upptäckte forskning av The New York Times att politiker använder e-post för att sprida desinformation oftare än vad folk inser. I USA gör båda parter sig skyldiga till överdrift i sina e-postmeddelanden till väljare, vilket ofta kan uppmuntra till att dela falsk information. 

Det finns några viktiga anledningar till varför människor faller för desinformationskampanjer. 

• För det första är människor sociala lärande och tenderar att lita på sina informationskällor som vänner eller familjemedlemmar. Dessa människor får i sin tur sina nyheter från betrodda vänner, vilket gör det svårt att bryta denna cirkel. 
• För det andra misslyckas människor ofta med att proaktivt faktakontrollera informationen de konsumerar, särskilt om de är vana vid att få sina nyheter från en källa (ofta traditionella medier eller deras favorit sociala medier plattformar som Facebook eller Twitter). När de ser en rubrik eller en bild (och till och med bara varumärke) som stöder deras övertygelse, ifrågasätter de ofta inte äktheten av dessa påståenden (oavsett hur löjliga de är). 
• Ekokammare är kraftfulla desinformationsverktyg som automatiskt gör människor med motsatta övertygelser till fienden. Den mänskliga hjärnan är hård för att söka information som stödjer befintliga idéer och rabattinformation som går emot dem.

Vidare konsekvenser av taktik som sprider desinformation

Möjliga konsekvenser av taktik som sprider desinformation kan inkludera: 

• Fler företag som specialiserar sig på AI och bots för att hjälpa politiker och propagandister att få anhängare och "trovärdighet" genom smarta desinformationskampanjer.
• Regeringar som pressas att skapa anti-desinformationslagar och byråer för att bekämpa trollfarmar och desinformationsstrateger.
• Ökande nedladdningar av EMA för extremistgrupper som vill sprida propaganda och förstöra rykten.
• Mediesidor som investerar i dyra cybersäkerhetslösningar för att förhindra desinformationshackare från att plantera falska nyheter i sina system. Nya generativa AI-lösningar kan användas i denna modereringsprocess.
• Generativa AI-drivna botar kan användas av dåliga aktörer för att producera en våg av propaganda- och desinformationsmedieinnehåll i stor skala.
• Ökat tryck på universitet och kommunala skolor att inkludera kurser mot desinformation. 

Frågor att överväga

• Hur skyddar du dig från desinformationstaktik?
• Hur kan annars regeringar och myndigheter förhindra spridningen av dessa taktiker?