Tactegau sy'n lledaenu dadffurfiad: Sut mae'r ymennydd dynol yn cael ei oresgyn

• Awdur:
• enw awdur

  Rhagolwg Quantumrun
• Tachwedd 4

Crynodeb mewnwelediad

Mae gwybodaeth anghywir yn lledaenu trwy dactegau fel y Model Contagion ac apiau wedi'u hamgryptio. Mae grwpiau fel Ghostwriter yn targedu milwyr NATO a'r Unol Daleithiau, tra bod AI yn trin barn y cyhoedd. Mae pobl yn aml yn ymddiried mewn ffynonellau cyfarwydd, gan eu gwneud yn agored i wybodaeth ffug. Gallai hyn arwain at fwy o ymgyrchoedd dadffurfiad seiliedig ar AI, rheoliadau cryfach gan y llywodraeth, mwy o ddefnydd o apiau wedi'u hamgryptio gan eithafwyr, mwy o seiberddiogelwch yn y cyfryngau, a chyrsiau addysgol ar frwydro yn erbyn dadwybodaeth.

Tactegau sy'n lledaenu cyd-destun gwybodaeth anghywir

Mae tactegau gwybodaeth anghywir yn offer a strategaethau a ddefnyddir yn aml ar wefannau rhwydweithio cymdeithasol, gan greu pandemig o gredoau ffug. Mae'r driniaeth hon o wybodaeth wedi arwain at gamddealltwriaeth eang ynghylch pynciau sy'n amrywio o dwyll pleidleiswyr i a yw ymosodiadau treisgar yn real (ee saethu ysgol elfennol Sandy Hook) neu a yw brechlynnau'n ddiogel. Wrth i newyddion ffug barhau i gael ei rannu ar draws gwahanol lwyfannau, mae wedi creu diffyg ymddiriedaeth dwfn yn erbyn sefydliadau cymdeithasol fel y cyfryngau. Un ddamcaniaeth ynghylch sut mae gwybodaeth gamarweiniol yn lledaenu yw Contagion Model, sy'n seiliedig ar sut mae firysau cyfrifiadurol yn gweithio. Mae rhwydwaith yn cael ei greu gan nodau, sy'n cynrychioli pobl, ac ymylon, sy'n symbol o gysylltiadau cymdeithasol. Mae cysyniad yn cael ei hadu mewn un “meddwl” ac yn lledaenu o dan amodau amrywiol ac yn dibynnu ar berthnasoedd cymdeithasol.

Nid yw'n helpu bod technoleg a digideiddio cynyddol cymdeithas yn helpu i wneud tactegau gwybodaeth anghywir yn fwy effeithiol nag erioed. Un enghraifft yw apiau negeseuon wedi'u hamgryptio (EMAs), sydd nid yn unig yn hwyluso rhannu gwybodaeth ffug i gysylltiadau personol ond hefyd yn ei gwneud hi'n amhosibl i gwmnïau app olrhain y negeseuon sy'n cael eu rhannu. Er enghraifft, trosglwyddodd grwpiau asgell dde eithaf i EMAs ar ôl ymosodiad Capitol UDA Ionawr 2021 oherwydd bod llwyfannau cyfryngau cymdeithasol prif ffrwd fel Twitter wedi eu gwahardd. Mae gan dactegau dadwybodaeth ganlyniadau uniongyrchol a hirdymor. Ar wahân i etholiadau lle mae personoliaethau amheus â chofnodion trosedd yn ennill trwy ffermydd trolio, gallant ymyleiddio lleiafrifoedd a hwyluso propaganda rhyfel (ee, goresgyniad Rwsia yn yr Wcrain). 

Effaith aflonyddgar

Yn 2020, rhyddhaodd y cwmni diogelwch FireEye adroddiad yn tynnu sylw at ymdrechion dadffurfiad grŵp o hacwyr o'r enw Ghostwriter. Ers mis Mawrth 2017, mae'r propagandwyr wedi bod yn lledaenu celwyddau, yn enwedig yn erbyn y gynghrair filwrol Sefydliad Cytundeb Gogledd yr Iwerydd (NATO) a milwyr yr Unol Daleithiau yng Ngwlad Pwyl a'r Baltigau. Maen nhw wedi cyhoeddi deunydd ffug ar gyfryngau cymdeithasol a gwefannau newyddion o blaid Rwsia. Weithiau mae Ghostwriter wedi defnyddio dull mwy ymosodol: hacio systemau rheoli cynnwys (CMS) gwefannau newyddion i bostio eu straeon eu hunain. Yna mae'r grŵp yn dosbarthu ei newyddion ffug gan ddefnyddio e-byst ffug, postiadau cyfryngau cymdeithasol, a hyd yn oed op-eds a ysgrifennwyd ganddynt ar wefannau eraill sy'n derbyn cynnwys gan ddarllenwyr.

Mae tacteg dadffurfiad arall yn defnyddio algorithmau a deallusrwydd artiffisial (AI) i drin barn y cyhoedd ar gyfryngau cymdeithasol, megis “roi hwb” i ddilynwyr cyfryngau cymdeithasol trwy bots neu greu cyfrifon trolio awtomataidd i bostio sylwadau atgas. Mae arbenigwyr yn galw hyn yn bropaganda cyfrifiadurol. Yn y cyfamser, darganfu ymchwil gan The New York Times fod gwleidyddion yn defnyddio e-bost i ledaenu gwybodaeth anghywir yn amlach nag y mae pobl yn ei sylweddoli. Yn yr Unol Daleithiau, mae'r ddwy ochr yn euog o ddefnyddio hyperbole yn eu negeseuon e-bost at etholwyr, a all annog rhannu gwybodaeth ffug yn aml. 

Mae yna ychydig o resymau allweddol pam mae pobl yn cwympo oherwydd ymgyrchoedd gwybodaeth anghywir. 

• Yn gyntaf, mae pobl yn ddysgwyr cymdeithasol ac yn tueddu i ymddiried yn eu ffynonellau gwybodaeth fel ffrindiau neu aelodau o'r teulu. Mae'r bobl hyn, yn eu tro, yn cael eu newyddion gan ffrindiau dibynadwy, gan ei gwneud hi'n anodd torri'r cylch hwn. 
• Yn ail, mae pobl yn aml yn methu â mynd ati’n rhagweithiol i wirio’r wybodaeth y maent yn ei defnyddio, yn enwedig os ydynt wedi arfer cael eu newyddion o un ffynhonnell (yn aml cyfryngau traddodiadol neu eu hoff gyfryngau cymdeithasol llwyfannau fel Facebook neu Twitter). Pan fyddant yn gweld pennawd neu ddelwedd (a hyd yn oed dim ond brandio) sy'n cefnogi eu credoau, yn aml nid ydynt yn cwestiynu dilysrwydd yr honiadau hyn (ni waeth pa mor chwerthinllyd). 
• Mae siambrau adlais yn offer dadffurfiad pwerus, sy'n gwneud pobl â chredoau gwrthgyferbyniol yn elyn yn awtomatig. Mae'r ymennydd dynol yn galed i geisio gwybodaeth sy'n cefnogi syniadau presennol a diystyru gwybodaeth sy'n mynd yn eu herbyn.

Goblygiadau ehangach tactegau sy'n lledaenu gwybodaeth anghywir

Gallai goblygiadau posibl tactegau sy’n lledaenu gwybodaeth anghywir gynnwys: 

• Mwy o gwmnïau’n arbenigo mewn AI a bots i helpu gwleidyddion a phropagandwyr i ennill dilynwyr a “hygrededd” trwy ymgyrchoedd dadffurfiad clyfar.
• Mae pwysau ar lywodraethau i greu deddfau ac asiantaethau gwrth-ddadwybodaeth i frwydro yn erbyn ffermydd trolio a strategwyr gwybodaeth anghywir.
• Llawrlwythiadau cynyddol o LCA ar gyfer grwpiau eithafol sydd am ledaenu propaganda a difetha enw da.
• Gwefannau cyfryngau yn buddsoddi mewn atebion seiberddiogelwch drud i atal hacwyr dadffurfiad rhag plannu newyddion ffug yn eu systemau. Gellir defnyddio datrysiadau AI cynhyrchiol newydd yn y broses gymedroli hon.
• Gall actorion drwg ddefnyddio botiau cynhyrchiol wedi'u pweru gan AI i gynhyrchu ton o gynnwys cyfryngau propaganda a dadwybodaeth ar raddfa.
• Mwy o bwysau ar brifysgolion ac ysgolion cymunedol i gynnwys cyrsiau gwrth-ddadwybodaeth. 

Cwestiynau i'w hystyried

• Sut ydych chi'n amddiffyn eich hun rhag tactegau dadwybodaeth?
• Sut arall y gall llywodraethau ac asiantaethau atal lledaeniad y tactegau hyn?