Aðferðir til að dreifa óupplýsingum: Hvernig ráðist er inn í mannsheilann

• Höfundur:
• Höfundur nafn

  Quantumrun Foresight
• Október 4, 2023

Innsýn samantekt

Rangar upplýsingar dreifast í gegnum tækni eins og smitlíkanið og dulkóðuð forrit. Hópar eins og Ghostwriter miða á NATO og bandaríska hermenn á meðan gervigreind spilar almenningsálitið. Fólk treystir oft kunnuglegum heimildum, sem gerir það næmt fyrir röngum upplýsingum. Þetta gæti leitt til fleiri AI-undirstaða óupplýsingaherferða, sterkari reglugerða stjórnvalda, aukinnar notkunar öfgamanna á dulkóðuðum öppum, aukins netöryggis í fjölmiðlum og fræðslunámskeiða um baráttu gegn óupplýsingum.

Aðferðir sem dreifa óupplýsingasamhengi

Misupplýsingaaðferðir eru verkfæri og aðferðir sem oft er beitt á samfélagsmiðlum og skapa heimsfaraldur rangra trúa. Þessi meðferð upplýsinga hefur leitt til víðtæks misskilnings um efni, allt frá kjósendasvikum til þess hvort ofbeldisfullar árásir séu raunverulegar (td Sandy Hook grunnskólaskotárásin) eða hvort bóluefni séu örugg. Þar sem fölskum fréttum er haldið áfram að deila á mismunandi vettvangi hefur það skapað djúpt vantraust á samfélagsstofnanir eins og fjölmiðla. Ein kenningin um hvernig villandi upplýsingar dreifast kallast smitlíkan, sem byggir á því hvernig tölvuvírusar virka. Net er búið til af hnútum, sem tákna fólk, og brúnum, sem tákna félagsleg tengsl. Hugtak er sáð í einn „huga“ og dreifist við ýmsar aðstæður og eftir félagslegum tengslum.

Það hjálpar ekki að tæknin og aukin stafræn væðing samfélagsins hjálpar til við að gera rangar upplýsingar skilvirkari en nokkru sinni fyrr. Sem dæmi má nefna dulkóðuð skilaboðaforrit (EMA), sem auðvelda ekki aðeins að deila fölskum upplýsingum til persónulegra tengiliða heldur gera forritafyrirtækjum ómögulegt að fylgjast með skilaboðunum sem deilt er. Til dæmis, öfgahægrihópar fluttir til EMA eftir árásina á bandaríska þinghúsið í janúar 2021 vegna þess að almennir samfélagsmiðlar eins og Twitter bönnuðu þá. Óupplýsingaaðferðir hafa tafarlausar og langtíma afleiðingar. Fyrir utan kosningar þar sem vafasamir einstaklingar með glæpasögur sigra í gegnum tröllabæi, geta þeir jaðarsett minnihlutahópa og auðveldað stríðsáróður (td innrás Rússa í Úkraínu). 

Truflandi áhrif

Árið 2020 gaf öryggisfyrirtækið FireEye út skýrslu þar sem var lögð áhersla á óupplýsingaviðleitni hóps tölvuþrjóta sem kallast Ghostwriter. Síðan í mars 2017 hafa áróðursmennirnir verið að dreifa lygum, einkum gegn hernaðarbandalaginu Atlantshafsbandalaginu (NATO) og bandarískum hermönnum í Póllandi og Eystrasaltsríkjunum. Þeir hafa birt falsað efni á samfélagsmiðlum og fréttavefjum sem eru hliðhollir Rússum. Ghostwriter hefur stundum notað árásargjarnari nálgun: að hakka inn vefumsjónarkerfi (CMS) fréttavefsíðna til að birta sínar eigin sögur. Hópurinn dreifir síðan falsfréttum sínum með því að nota falspósta, færslur á samfélagsmiðlum og jafnvel ritdóma sem þeir hafa skrifað á öðrum síðum sem taka við efni frá lesendum.

Önnur óupplýsingaaðferð notar reiknirit og gervigreind (AI) til að hagræða almenningsálitinu á samfélagsmiðlum, svo sem að „efla“ fylgjendur samfélagsmiðla í gegnum vélmenni eða búa til sjálfvirka tröllareikninga til að senda hatursfull ummæli. Sérfræðingar kalla þetta tölvuáróður. Á sama tíma komust rannsóknir á The New York Times í ljós að stjórnmálamenn nota tölvupóst til að dreifa óupplýsingum oftar en fólk gerir sér grein fyrir. Í Bandaríkjunum eru báðir aðilar sekir um að hafa notað ofstuðla í tölvupósti sínum til kjósenda, sem getur oft hvatt til þess að rangar upplýsingar séu deilt. 

Það eru nokkrar helstu ástæður fyrir því að fólk fellur fyrir rangfærsluherferðum. 

• Í fyrsta lagi er fólk félagslegt nám og hefur tilhneigingu til að treysta upplýsingagjöfum sínum eins og vinum eða fjölskyldumeðlimum. Þetta fólk fær aftur á móti fréttir frá traustum vinum, sem gerir það erfitt að rjúfa þennan hring. 
• Í öðru lagi tekst fólki oft ekki að kanna upplýsingarnar sem það neytir fyrirbyggjandi, sérstaklega ef það er vant að fá fréttirnar sínar frá einum aðilum (oft hefðbundnum fjölmiðlum eða uppáhalds samfélagsmiðlinum þeirra vettvangi eins og Facebook eða Twitter). Þegar þeir sjá fyrirsögn eða mynd (og jafnvel bara vörumerki) sem styður trú þeirra, efast þeir oft ekki um áreiðanleika þessara fullyrðinga (sama hversu fáránlegar þær eru). 
• Bergmálshólf eru öflug upplýsingatækniverkfæri sem gera fólk með andstæðar skoðanir sjálfkrafa að óvini. Mannsheilinn er harður til að leita upplýsinga sem styðja núverandi hugmyndir og afsláttarupplýsinga sem ganga gegn þeim.

Víðtækari áhrif aðferða við að dreifa óupplýsingum

Hugsanlegar afleiðingar aðferða sem dreifa óupplýsingum geta verið: 

• Fleiri fyrirtæki sem sérhæfa sig í gervigreind og vélmenni til að hjálpa stjórnmálamönnum og áróðursmönnum að öðlast fylgjendur og „trúverðugleika“ með snjöllum óupplýsingaherferðum.
• Þrýst er á stjórnvöld að búa til lög og stofnanir gegn óupplýsingum til að berjast gegn tröllabæjum og ranghugmyndafræðingum.
• Aukið niðurhal á EMA fyrir öfgahópa sem vilja dreifa áróðri og eyðileggja orðstír.
• Fjölmiðlasíður fjárfesta í dýrum netöryggislausnum til að koma í veg fyrir að tölvuþrjótar setji falsfréttir í kerfi sín. Hægt er að nota nýjar kynslóðar gervigreindarlausnir í þessu hófsemisferli.
• Generative AI-knúnir vélmenni gætu verið notaðir af slæmum leikurum til að framleiða bylgju áróðurs og óupplýsingaefnis í fjölmiðlum í umfangsmiklum mæli.
• Aukinn þrýstingur á háskóla og samfélagsskóla að taka upp námskeið gegn óupplýsingum. 

Spurningar sem þarf að íhuga

• Hvernig verndar þú þig gegn óupplýsingaaðferðum?
• Hvernig geta stjórnvöld og stofnanir annars komið í veg fyrir útbreiðslu þessara aðferða?