Taktik nyebarkeun disinformasi: Kumaha otak manusa diserang

• Author:
• Ngaran pangarang

  Quantumrun tetempoan
• Oktober 4, 2023

Ringkesan wawasan

Misinformasi nyebar ngaliwatan taktik sapertos Contagion Modél sareng aplikasi énkripsi. Grup sapertos Ghostwriter nargétkeun pasukan NATO sareng AS, sedengkeun AI ngamanipulasi pendapat umum. Jalma sering percanten ka sumber anu biasa, ngajantenkeun aranjeunna rentan kana inpormasi palsu. Ieu tiasa nyababkeun langkung seueur kampanye disinformasi berbasis AI, peraturan pamaréntahan anu langkung kuat, ningkat panggunaan aplikasi énkripsi ku ekstremis, ningkatkeun kaamanan siber dina média, sareng kursus pendidikan ngeunaan merangan disinformasi.

Taktik nyebarkeun kontéks disinformasi

Taktik misinformasi mangrupikeun alat sareng strategi anu sering diterapkeun dina situs jejaring sosial, nyiptakeun pandémik kapercayaan palsu. Manipulasi inpormasi ieu nyababkeun salah paham anu nyebar ngeunaan topik mimitian ti panipuan pamilih dugi ka serangan kekerasan anu nyata (contona, shooting SD Sandy Hook) atanapi naha vaksin aman. Nalika warta palsu terus dibagikeun dina platform anu béda-béda, éta nyiptakeun rasa teu percaya kana lembaga sosial sapertos média. Hiji téori ngeunaan kumaha nyebarna inpormasi anu nyasabkeun disebut Contagion Model, anu dumasar kana kumaha virus komputer jalan. Hiji jaringan dijieun ku titik, nu ngagambarkeun jalma, sarta edges, nu melambangkan Tumbu sosial. Hiji konsép diturunkeun dina hiji "pikiran" sareng nyebar dina sagala rupa kaayaan sareng gumantung kana hubungan sosial.

Éta henteu ngabantosan yén téknologi sareng paningkatan digitalisasi masarakat ngabantosan taktik misinformasi langkung efektif tibatan kantos. Conto nyaéta aplikasi olahtalatah énkripsi (EMAs), anu henteu ngan ukur ngagampangkeun ngabagi inpormasi palsu ka kontak pribadi tapi ogé ngajantenkeun perusahaan aplikasi henteu tiasa ngalacak pesen anu dibagikeun. Contona, grup katuhu jauh dipindahkeun ka EMAs sanggeus serangan Capitol AS Januari 2021 sabab platform média sosial mainstream kawas Twitter ngalarang aranjeunna. Taktik disinformasi gaduh akibat langsung sareng jangka panjang. Salian ti pemilu dimana kapribadian anu dipertanyakeun kalayan catetan kajahatan meunang ngaliwatan kebon troll, aranjeunna tiasa ngasingkeun minoritas sareng ngagampangkeun propaganda perang (contona, invasi Ukraina Rusia). 

Dampak ngaganggu

Taun 2020, perusahaan kaamanan FireEye ngaluarkeun laporan anu nyorot usaha disinformasi tina sakelompok peretas anu disebut Ghostwriter. Kusabab Maret 2017, para propagandist nyebarkeun bohong, khususna ngalawan aliansi militér Organisasi Perjangjian Atlantik Kalér (NATO) sareng pasukan AS di Polandia sareng Baltik. Aranjeunna parantos nyebarkeun bahan palsu dina média sosial sareng situs wéb pro-Rusia. Ghostwriter kadang-kadang ngagunakeun pendekatan anu langkung agrésif: hacking sistem manajemén eusi (CMS) situs wéb pikeun masangkeun carita sorangan. Grup éta teras nyebarkeun warta palsu na nganggo email palsu, tulisan média sosial, bahkan op-eds anu ditulis ku aranjeunna dina situs sanés anu nampi eusi ti pamiarsa.

Taktik disinformasi anu sanés nganggo algoritma sareng intelijen buatan (AI) pikeun ngamanipulasi pendapat umum dina média sosial, sapertos "ngaronjatkeun" pengikut média sosial ngalangkungan bot atanapi nyiptakeun akun troll otomatis pikeun ngirim koméntar kebencian. Para ahli nyauran propaganda komputasi ieu. Samentawis éta, panilitian ku The New York Times mendakan yén politikus nganggo email pikeun nyebarkeun disinformasi langkung sering ti anu disadari ku masarakat. Di AS, duanana pihak anu kaliru ngagunakeun hyperbole dina surelek maranéhna pikeun konstituén, nu mindeng bisa ajak babagi informasi palsu. 

Aya sababaraha alesan konci naha jalma ragrag pikeun kampanye misinformation. 

• Kahiji, jalma anu peserta didik sosial sarta condong percanten sumber maranéhanana informasi kawas babaturan atawa anggota kulawarga. Jalma ieu, kahareupna meunang warta ti babaturan dipercaya, sahingga hésé megatkeun siklus ieu. 
• Kadua, jalma-jalma sering gagal sacara proaktif mariksa inpormasi anu dikonsumsi, khususna upami aranjeunna biasa nyandak warta tina hiji sumber (sering média tradisional atanapi média sosial karesepna. platform kawas Facebook atawa Twitter). Nalika aranjeunna ningali headline atanapi gambar (malah ngan ukur branding) anu ngadukung kapercayaanana, aranjeunna sering henteu naroskeun kaaslian klaim-klaim ieu (teu paduli kumaha konyol). 
• Kamar gema mangrupikeun alat disinformasi anu kuat, sacara otomatis ngajantenkeun jalma anu kayakinan lawan musuh. Otak manusa dipikabutuh pikeun milarian inpormasi anu ngadukung ideu anu aya sareng inpormasi diskon anu ngalawan aranjeunna.

Implikasi anu langkung ageung tina taktik nyebarkeun disinformasi

Implikasi mungkin tina taktik nyebarkeun disinformasi tiasa kalebet: 

• Langkung seueur perusahaan anu khusus dina AI sareng bot pikeun ngabantosan politikus sareng propagandis nampi pengikut sareng "kredibilitas" ngalangkungan kampanye disinformasi anu pinter.
• Pamaréntah diteken pikeun nyiptakeun undang-undang sareng agénsi anti-disinformasi pikeun merangan kebon troll sareng ahli strategi misinformasi.
• Ngaronjatkeun undeuran EMA pikeun kelompok ekstremis anu hoyong nyebarkeun propaganda sareng ngarusak reputasi.
• Situs média investasi dina solusi cybersecurity mahal pikeun nyegah peretas disinformasi tina penanaman warta palsu dina sistem maranéhanana. Solusi AI generatif novel tiasa dianggo dina prosés moderasi ieu.
• Bot anu dikuatkeun AI Generatif tiasa dianggo ku aktor anu goréng pikeun ngahasilkeun gelombang eusi média propaganda sareng disinformasi dina skala.
• Tekanan ningkat pikeun paguron luhur sareng sakola komunitas kalebet kursus anti disinformasi. 

Patarosan anu kedah diperhatoskeun

• Kumaha anjeun ngajaga diri tina taktik disinformasi?
• Kumaha deui pamaréntah sareng agénsi tiasa nyegah panyebaran taktik ieu?