Taktik, der spreder desinformation: Hvordan den menneskelige hjerne invaderes

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• Oktober 4, 2023

Oversigt over indsigt

Misinformation spredes gennem taktikker som Contagion Model og krypterede apps. Grupper som Ghostwriter retter sig mod NATO og amerikanske tropper, mens AI manipulerer den offentlige mening. Folk stoler ofte på velkendte kilder, hvilket gør dem modtagelige for falsk information. Dette kan føre til flere AI-baserede desinformationskampagner, stærkere regeringsbestemmelser, øget brug af krypterede apps af ekstremister, øget cybersikkerhed i medierne og uddannelseskurser om bekæmpelse af desinformation.

Taktik, der spreder desinformationskontekst

Misinformationstaktik er værktøjer og strategier, der ofte anvendes på sociale netværkssider, hvilket skaber en pandemi af falske overbevisninger. Denne manipulation af information har resulteret i en udbredt misforståelse om emner lige fra vælgersvindel til, om voldelige angreb er reelle (f.eks. Sandy Hook folkeskoleskyderi), eller om vacciner er sikre. Da falske nyheder fortsat bliver delt på tværs af forskellige platforme, har det skabt en dyb mistillid mod sociale institutioner som medierne. En teori om, hvordan vildledende information spredes, kaldes Contagion Model, som er baseret på, hvordan computervirus virker. Et netværk er skabt af noder, som repræsenterer mennesker, og kanter, som symboliserer sociale links. Et koncept er seedet i ét "sind" og breder sig under forskellige forhold og afhængigt af sociale relationer.

Det hjælper ikke, at teknologi og den stigende digitalisering af samfundet er med til at gøre misinformationstaktikker mere effektive end nogensinde. Et eksempel er krypterede beskedapps (EMA'er), som ikke kun letter deling af falsk information til personlige kontakter, men som også gør det umuligt for appvirksomheder at spore de beskeder, der deles. For eksempel overførte højreekstremistiske grupper til EMA'er efter US Capitol-angrebet i januar 2021, fordi mainstream sociale medieplatforme som Twitter forbød dem. Desinformationstaktik har umiddelbare og langsigtede konsekvenser. Bortset fra valg, hvor tvivlsomme personligheder med kriminalitet vinder gennem troldefarme, kan de marginalisere minoriteter og lette krigspropaganda (f.eks. Ruslands Ukraine-invasion). 

Forstyrrende påvirkning

I 2020 udgav sikkerhedsfirmaet FireEye en rapport, der fremhævede desinformationsindsatsen fra en gruppe hackere kaldet Ghostwriter. Siden marts 2017 har propagandisterne spredt løgne, især mod militæralliancen North Atlantic Treaty Organisation (NATO) og amerikanske tropper i Polen og Baltikum. De har offentliggjort forfalsket materiale på sociale medier og pro-russiske nyhedswebsteder. Ghostwriter har nogle gange brugt en mere aggressiv tilgang: hacking af indholdsstyringssystemer (CMS) på nyhedswebsteder for at sende deres egne historier. Gruppen distribuerer derefter sine falske nyheder ved hjælp af falske e-mails, opslag på sociale medier og endda op-eds skrevet af dem på andre websteder, der accepterer indhold fra læsere.

En anden desinformationstaktik bruger algoritmer og kunstig intelligens (AI) til at manipulere den offentlige mening på sociale medier, såsom at "booste" følgere på sociale medier gennem bots eller oprette automatiske troldekonti til at sende hadefulde kommentarer. Eksperter kalder dette beregningsmæssig propaganda. I mellemtiden opdagede forskning fra The New York Times, at politikere bruger e-mail til at sprede desinformation oftere, end folk er klar over. I USA er begge parter skyldige i at bruge overdrivelse i deres e-mails til vælgere, hvilket ofte kan tilskynde til deling af falsk information. 

Der er et par vigtige grunde til, at folk falder for misinformationskampagner. 

• For det første er folk sociale lærende og har en tendens til at stole på deres informationskilder som venner eller familiemedlemmer. Disse mennesker får til gengæld deres nyheder fra betroede venner, hvilket gør det svært at bryde denne cyklus. 
• For det andet undlader folk ofte proaktivt at faktatjekke den information, de bruger, især hvis de er vant til at få deres nyheder fra én kilde (ofte traditionelle medier eller deres foretrukne sociale medier platforme som Facebook eller Twitter). Når de ser en overskrift eller et billede (og endda bare branding), der understøtter deres overbevisning, stiller de ofte ikke spørgsmålstegn ved ægtheden af ​​disse påstande (uanset hvor latterlige de er). 
• Ekkokamre er kraftfulde desinformationsværktøjer, der automatisk gør mennesker med modsatrettede overbevisninger til fjenden. Den menneskelige hjerne er hardwired til at søge information, der understøtter eksisterende ideer og rabatinformation, der går imod dem.

Større implikationer af taktik, der spreder desinformation

Mulige implikationer af taktik, der spreder desinformation, kan omfatte: 

• Flere virksomheder med speciale i kunstig intelligens og bots for at hjælpe politikere og propagandister med at få følgere og "troværdighed" gennem smarte desinformationskampagner.
• Regeringer bliver presset til at skabe anti-desinformationslove og agenturer til at bekæmpe troldefarme og misinformationsstrateger.
• Stigende downloads af EMA'er for ekstremistiske grupper, der ønsker at sprede propaganda og ødelægge omdømme.
• Mediesider investerer i dyre cybersikkerhedsløsninger for at forhindre desinformationshackere i at plante falske nyheder i deres systemer. Nye generative AI-løsninger kan anvendes i denne modereringsproces.
• Generative AI-drevne bots kan blive brugt af dårlige aktører til at producere en bølge af propaganda- og desinformationsmedieindhold i stor skala.
• Øget pres for universiteter og folkeskoler for at inkludere anti-desinformationskurser. 

Spørgsmål at overveje

• Hvordan beskytter du dig selv mod desinformationstaktik?
• Hvordan kan regeringer og agenturer ellers forhindre spredningen af ​​disse taktikker?