Taktieke om disinformasie te versprei: Hoe die menslike brein binnegeval word

• Author:
• Author naam

  Quantumrun Foresight
• Oktober 4, 2023

Insig opsomming

Verkeerde inligting versprei deur taktieke soos die besmettingsmodel en geënkripteerde toepassings. Groepe soos Ghostwriter teiken NAVO en Amerikaanse troepe, terwyl KI die openbare mening manipuleer. Mense vertrou dikwels bekende bronne, wat hulle vatbaar maak vir vals inligting. Dit kan lei tot meer KI-gebaseerde disinformasieveldtogte, sterker regeringsregulasies, verhoogde gebruik van geënkripteerde toepassings deur ekstremiste, verhoogde kuberveiligheid in die media en opvoedkundige kursusse oor die bekamping van disinformasie.

Taktiek wat disinformasiekonteks versprei

Misinligtingstaktieke is instrumente en strategieë wat dikwels op sosiale netwerkwerwe toegepas word, wat 'n pandemie van valse oortuigings skep. Hierdie manipulasie van inligting het gelei tot 'n wydverspreide misverstand oor onderwerpe wat wissel van kieserbedrog tot of gewelddadige aanvalle werklik is (bv. die Sandy Hook laerskoolskietery) en of entstowwe veilig is. Aangesien vals nuus steeds oor verskillende platforms gedeel word, het dit 'n diep wantroue teen sosiale instellings soos die media geskep. Een teorie van hoe misleidende inligting versprei word Contagion Model genoem, wat gebaseer is op hoe rekenaarvirusse werk. 'n Netwerk word geskep deur nodusse, wat mense verteenwoordig, en rande, wat sosiale skakels simboliseer. 'n Konsep word in een "gemoed" gesaai en versprei onder verskeie omstandighede en afhangende van sosiale verhoudings.

Dit help nie dat tegnologie en die toenemende digitalisering van die samelewing help om verkeerde inligtingstaktieke doeltreffender as ooit tevore te maak nie. 'n Voorbeeld is geënkripteerde boodskaptoepassings (EMA's), wat nie net die deel van vals inligting met persoonlike kontakte vergemaklik nie, maar dit ook onmoontlik maak vir toepassingsmaatskappye om die boodskappe wat gedeel word, op te spoor. Byvoorbeeld, verregse groepe het na EMA's oorgeplaas na die Amerikaanse Capitol-aanval in Januarie 2021 omdat hoofstroom sosiale media-platforms soos Twitter hulle verbied het. Disinformasietaktieke het onmiddellike en langtermyngevolge. Afgesien van verkiesings waar twyfelagtige persoonlikhede met misdaadrekords deur trolplase wen, kan hulle minderhede marginaliseer en oorlogspropaganda fasiliteer (bv. Rusland se Oekraïne-inval). 

Ontwrigtende impak

In 2020 het die sekuriteitsmaatskappy FireEye 'n verslag vrygestel wat die pogings tot disinformasie van 'n groep kuberkrakers genaamd Ghostwriter beklemtoon. Sedert Maart 2017 het die propagandiste leuens versprei, veral teen die militêre alliansie Noord-Atlantiese Verdragsorganisasie (NAVO) en Amerikaanse troepe in Pole en die Baltiese lande. Hulle het vervalste materiaal op sosiale media en pro-Russiese nuuswebwerwe gepubliseer. Ghostwriter het soms 'n meer aggressiewe benadering gebruik: hacking van die inhoudbestuurstelsels (CMS) van nuuswebwerwe om hul eie stories te plaas. Die groep versprei dan sy vals nuus deur middel van valse e-posse, sosiale media-plasings en selfs menings wat deur hulle geskryf is op ander webwerwe wat inhoud van lesers aanvaar.

Nog 'n disinformasie-taktiek gebruik algoritmes en kunsmatige intelligensie (AI) om die publieke mening op sosiale media te manipuleer, soos om sosiale media-volgelinge deur middel van bots te "versterk" of outomatiese trolrekeninge te skep om haatlike opmerkings te plaas. Kenners noem dit rekenaarpropaganda. Intussen het navorsing deur The New York Times ontdek dat politici e-pos gebruik om disinformasie meer gereeld te versprei as wat mense besef. In die VSA is albei partye skuldig aan die gebruik van hiperbool in hul e-posse aan bestanddele, wat dikwels die deel van vals inligting kan aanmoedig. 

Daar is 'n paar belangrike redes waarom mense val vir verkeerde inligting veldtogte. 

• Eerstens is mense sosiale leerders en is hulle geneig om hul bronne van inligting soos vriende of familielede te vertrou. Hierdie mense kry op hul beurt hul nuus van betroubare vriende, wat dit moeilik maak om hierdie siklus te breek. 
• Tweedens, mense versuim dikwels om die inligting wat hulle verbruik proaktief na te gaan, veral as hulle gewoond is daaraan om hul nuus van een bron af te kry (dikwels tradisionele media of hul gunsteling sosiale media platforms soos Facebook of Twitter). Wanneer hulle 'n opskrif of 'n beeld (en selfs net handelsmerk) sien wat hul oortuigings ondersteun, bevraagteken hulle dikwels nie die egtheid van hierdie bewerings nie (maak nie saak hoe belaglik nie). 
• Echo-kamers is kragtige disinformasie-instrumente, wat mense met opponerende oortuigings outomaties die vyand maak. Die menslike brein is gehard om inligting te soek wat bestaande idees ondersteun en afslaginligting wat daarteen ingaan.

Wyer implikasies van taktiek wat disinformasie versprei

Moontlike implikasies van taktiek wat disinformasie versprei kan insluit: 

• Meer maatskappye wat spesialiseer in KI en bots om politici en propagandiste te help om volgelinge en "geloofwaardigheid" te kry deur slim disinformasieveldtogte.
• Regerings word onder druk geplaas om wette en agentskappe teen disinformasie te skep om trolplase en verkeerde inligtingstrateë te bestry.
• Toenemende aflaaie van EMA's vir ekstremistiese groepe wat propaganda wil versprei en reputasies wil verwoes.
• Mediawebwerwe wat in duur kuberveiligheidsoplossings belê om te verhoed dat hackers vals nuus in hul stelsels plant. Nuwe generatiewe KI-oplossings kan in hierdie modereringsproses gebruik word.
• Generatiewe KI-aangedrewe bots kan deur slegte akteurs gebruik word om 'n golf van propaganda en disinformasie media-inhoud op skaal te produseer.
• Verhoogde druk op universiteite en gemeenskapskole om kursusse teen disinformasie in te sluit. 

Vrae om te oorweeg

• Hoe beskerm jy jouself teen disinformasietaktieke?
• Hoe anders kan regerings en agentskappe die verspreiding van hierdie taktiek voorkom?