Propagandni roboti: vojska digitalnih agitatorjev

• Avtor:
• ime avtorja

  Quantumrun Foresight
• Oktober 26, 2022

Povzetek vpogleda

V dobi družbenih medijev so spletni roboti postali vse pogostejše orodje za širjenje propagande. Ti roboti so avtomatizirani računi, zasnovani za posnemanje resničnih ljudi in jih je mogoče uporabiti za vplivanje na politiko in trenutne dogodke s širjenjem dezinformacij. Dolgoročne posledice povečane uporabe teh botov lahko vključujejo podjetja in politične stranke, ki jih uporabljajo za manipulacijo javnega mnenja, in več sintetičnih računov v družabnih medijih, ki razpihujejo ogenj kontroverznih razprav in politik.

Kontekst propagandnih botov

Bot uporablja programsko opremo za umetno inteligenco (AI) in lahko samostojno izvaja dejanja, kot so deljenje sporočil, ponovna deljenja, všečkanje, spremljanje, preklic spremljanja ali neposredno pošiljanje sporočil različnim računom na medijski platformi. Zaradi različnih programskih aplikacij umetne inteligence so mediji in družbena gibanja to tehnologijo prilagodili za večjo interakcijo in doseg pri članskih bazah. Priljubljenost propagandnih robotov med prevarantskimi vladami, organizacijami in aktivističnimi skupinami je narasla, ker so programske platforme, ki jih ustvarjajo in upravljajo, postale vse bolj dostopne in enostavne za uporabo.

Ti roboti so zelo vsestranski in jih je mogoče programirati, zaradi česar so še posebej učinkoviti pri vplivanju na javno mnenje s ciljanjem na določene skupnosti. Boti lahko širijo lažne informacije o kandidatih in težavah ali nadlegujejo ljudi z nasprotnimi pogledi. Poleg tega lahko ustvarijo lažne profile družbenih medijev, da ustvarijo podporo določenemu kandidatu ali cilju. Zlasti platforma družbenih medijev Twitter je postala zatočišče za te bote, saj je spletno mesto primerno za kratka pisna sporočila. 

Propagandni roboti so bili uporabljeni v več odmevnih političnih kampanjah, vključno s predsedniškimi volitvami v ZDA in referendumom o brexitu v Združenem kraljestvu leta 2016. V obeh primerih so roboti širili napačne informacije in sejali razdor med volivci. Čeprav propagandni roboti niso omejeni na avtoritarne države, so zelo razširjeni tam, kjer je svoboda govora omejena. V takšnih državah vlada pogosto uporablja robote za nadzor prebivalstva ter zatiranje protestov in nestrinjanja. Primera sta Kitajska in Rusija, ki svoja zelo omejena internetna omrežja pogosto preplavita z vladno vsebino, ki uporabljata algoritme umetne inteligence (AI) in strojnega učenja (ML).

Moteč vpliv

Nekateri pomembni dogodki, ki so omogočili vzpon propagandnih botov, so vse večja usposobljenost umetne inteligence za ustvarjanje besedila in vse večja priljubljenost klepetalnih robotov v družabnih medijih. Programska oprema za ustvarjanje besedil je dovolj sofisticirana, da večino časa preslepi marsikoga. Programska oprema za ustvarjanje besedil lahko napiše vplivne uvodnike o zelo zapletenih nacionalnih vprašanjih ali se pogovarja s potrošniki na spletnih mestih trgovcev. Te robote uporabljajo celo spletna mesta, ki se predstavljajo za zakonite lokalne vire novic, vendar zagotavljajo dezinformacije (znano tudi kot rožnato sluzavo novinarstvo).

Leta 2017 je ameriška zvezna komisija za komunikacije (FCC) prejela več kot 22 milijonov komentarjev v svojem povabilu za javno mnenje o nevtralnosti omrežja. Približno polovica komentarjev je bila videti goljufiva, z uporabo ukradenih identitet. Ti komentarji so bili poenostavljeni; približno 1.3 milijona je bilo izdelanih iz iste predloge, pri čemer so bile nekatere besede spremenjene, da so videti drugače. 

Medtem ko je leta 2020 raziskovalec univerze Harvard Max Weiss ustvaril programsko opremo za ustvarjanje besedila za pisanje 1,000 komentarjev na vladni poziv v zvezi z nacionalnim programom zdravstvenega zavarovanja Medicaid. Weiss je izvedel to študijo, da bi dokazal, kako preprosto je bilo programirati propagandne robote. Vsi komentarji so bili edinstveni in verodostojni, tako zelo, da so skrbniki Medicaida mislili, da so resnični. Weiss je nato obvestil Medicaid o raziskavi, ki jo je opravljal, in odstranil komentarje, da bi preprečil, da bi kakršna koli politična razprava postala pristranska. 

Posledice propagandnih botov

Širše posledice propagandnih botov lahko vključujejo: 

• Podjetja, ki uporabljajo propagandne robote za ustvarjanje dragocene vsebine za odnose z javnostmi, da si povrnejo ugled podjetja.
• Vedno več primerov prilagojenih besedilnih sporočil in e-pošte kibernetskim kriminalcem pomagajo pri kraji identitete, goljufijah in lažnem predstavljanju.
• Posamezniki, ki najemajo propagandne robote za osebno uporabo; npr. uporaba botov za povečanje števila sledilcev v družbenih medijih in nadlegovanje ljudi na spletu.
• Večje število oseb, ki jih poganja umetna inteligenca, pošiljajo pisma časopisom in izvoljenim uradnikom, pošiljajo posamezne komentarje javnim postopkom oblikovanja pravil in razpravljajo o političnih vprašanjih na družbenih medijih.
• Vlade, ki poskušajo uvesti strožjo zakonodajo o moderiranju velikih tehnoloških podjetij, da bi uredile uporabo in ustvarjanje botov.
• Podjetja, ki se prilagajajo zmožnostim nadzora propagandnih botov, kar vodi do izboljšanega spremljanja produktivnosti zaposlenih in vedenja strank.
• Potrošniški skepticizem se stopnjuje, ko razlikovanje med pristno vsebino in vsebino, ki jo ustvarijo roboti, postane izziv, kar vpliva na zaupanje blagovne znamke in učinkovitost trženja.
• Oblikovalci politik se soočajo z dilemo, kako uravnotežiti svobodo govora s potrebo po zajezitvi napačnih informacij, kar vpliva na področje uporabe zakonodaje o digitalnih komunikacijskih platformah.

Vprašanja, ki jih je treba upoštevati

• Kako se lahko ljudje in organizacije zaščitijo pred nezavednim vpletanjem v diskurz s propagandnimi roboti?
• Kako bodo sicer boti spremenili javno debato in diskusijo?
• Kakšna so vaša nedavna srečanja s propagandnimi roboti družbenih medijev?