Sintetička medijska laž: Vidjeti više nije vjerovati

• Autor:
• Ime autora

  Quantumrun Foresight
• Februar 22, 2024

Sažetak uvida

Sintetički mediji, koji spajaju umjetnu inteligenciju (AI) s video, audio i vizualnim elementima, toliko su realistični da ih je teško razlikovati od stvarnih medija. Njegov razvoj seže decenijama unazad, pri čemu duboko učenje (DL) i generativne adversarijske mreže (GAN) igraju ključnu ulogu u njegovom napretku. Kako se ova tehnologija razvija, ona predstavlja kreativne mogućnosti i značajne izazove u pogledu privatnosti, etike i dezinformacija.

Kontekst sintetičke medijske laži

Sintetički mediji predstavljaju revolucionarnu kombinaciju sadržaja generiranog umjetnom inteligencijom, koji obuhvata video uživo, vizualne elemente i audio unutar naprednog tehnološkog okvira. Ovu medijsku formu karakterizira izuzetan realizam i imerzivni kvaliteti, što ga čini gotovo nerazlučivim od medija iz stvarnog svijeta. Stvaranje sintetičkih medija može se pratiti unatrag do 1950-ih, prolazeći kroz značajnu evoluciju u kasnim 1980-im i ranim 1990-im kada je računska snaga naglo porasla. 

Duboko učenje je osnovna tehnologija koja pokreće sintetičke medije, sofisticiranu granu mašinskog učenja (ML). Posebno su utjecajni u ovoj domeni GAN-ovi, koji su revolucionirali polje učeći iz postojećih slika kako bi proizveli potpuno nove, ali jezivo autentične. GAN-ovi funkcionišu koristeći sistem dualne neuronske mreže: jedna mreža generiše lažne slike zasnovane na stvarnim, dok druga procenjuje njihovu autentičnost, pomerajući granice onoga što je moguće u kompjuterskom vidu i obradi slike.

Kako AI nastavlja svoj brz napredak, primjene i implikacije sintetičkih medija postaju sve značajnije. Dok ovi tehnološki iskoraci otvaraju vrata inovacijama u različitim sektorima, uključujući video igre, autonomna vozila i prepoznavanje lica, oni istovremeno uvode goruću zabrinutost u pogledu privatnosti i etike. Budućnost sintetičkih medija stoga predstavlja mač sa dvije oštrice, nudeći ogroman potencijal za kreativnost i inovaciju, dok nas izaziva da se pozabavimo njihovim etičkim implikacijama i implikacijama u vezi s privatnošću.

Ometajući uticaj

Studija iz 2022. koju je provela neprofitna organizacija Rand Corporation govori o četiri primarna rizika sintetičkih medija: manipulaciji izborima kroz fabrikovane video snimke kandidata, pogoršanju društvenih podjela pojačavanjem propagande i stranačkih sadržaja, eroziji povjerenja u institucije kroz lažne reprezentacije autoriteta, i podrivanje novinarstva bacanjem sumnje u autentičnost legitimnih vijesti. Ove duboke lažiranja mogu biti posebno štetne u zemljama u razvoju u kojima prevladavaju niži nivoi obrazovanja, krhke demokratije i međuetnički sukobi. Dezinformacije su već značajan problem u ovim regijama, a dubinske lažiranja bi mogle intenzivirati sporove i nasilje, kao što se vidi u prošlim incidentima u zemljama poput Mjanmara, Indije i Etiopije. Štaviše, ograničeni resursi dodijeljeni moderiranju sadržaja izvan SAD-a, posebno na platformama kao što je WhatsApp, povećavaju rizik da deepfakes ostanu neprimećeni u ovim područjima.

Duboki fajkovi također predstavljaju jedinstvenu prijetnju ženama, s obzirom na rodnu nejednakost u pornografskom sadržaju. Mediji generirani umjetnom inteligencijom korišteni su za kreiranje duboke lažne pornografije bez pristanka, što je dovelo do zlostavljanja i eksploatacije. Ove tehnologije također mogu predstavljati sigurnosne rizike tako što ciljaju na obavještajne operativce, političke kandidate, novinare i lidere za sramotu ili manipulaciju. Istorijski primjeri, kao što je kampanja dezinformacija koju podržava Rusija protiv ukrajinske parlamentarke Svitlane Zalishchuk, pokazuju potencijal za takve napade.

Razumijevanje naučne zajednice društvenih implikacija deepfakesa još uvijek se razvija, a studije nude različite rezultate o sposobnostima korisnika da otkriju ove video zapise i njihovom utjecaju. Neka istraživanja sugeriraju da su ljudi možda bolji u otkrivanju deepfakesa od mašina, ali se ovi video snimci često smatraju živopisnim, uvjerljivim i vjerodostojnim, što povećava vjerovatnoću njihovog širenja na društvenim mrežama. Međutim, utjecaj deepfake videa na vjerovanja i ponašanje mogao bi biti manji nego što se očekivalo, što ukazuje da bi zabrinutost oko njihove uvjerljivosti mogla biti preuranjena. 

Implikacije laži sintetičkih medija

Šire implikacije laži sintetičkih medija mogu uključivati: 

• Poboljšane tehnike u autentifikaciji digitalnog sadržaja, što dovodi do sofisticiranijih metoda za provjeru autentičnosti medija.
• Povećana potražnja za obrazovanjem o digitalnoj pismenosti u školama, opremajući buduće generacije vještinama za kritičku analizu medija.
• Promjene u novinarskim standardima, koje zahtijevaju strože procese verifikacije multimedijalnih sadržaja kako bi se održao kredibilitet.
• Proširenje pravnih okvira koji se bave manipulacijom digitalnim sadržajem, nudeći bolju zaštitu od dezinformacija.
• Povećani rizici lične privatnosti zbog potencijalne zloupotrebe prepoznavanja lica i ličnih podataka u kreiranju deepfakea.
• Razvoj novih tržišnih sektora specijaliziranih za otkrivanje i prevenciju deepfake, stvaranje mogućnosti za zapošljavanje i tehnološki napredak.
• Političke kampanje koje usvajaju strožiju praksu praćenja medija kako bi se ublažio uticaj lažnog sadržaja na izbore.
• Promjene u reklamnim i marketinškim strategijama, s povećanim naglaskom na autentičnosti i provjerljivom sadržaju kako bi se održalo povjerenje potrošača.
• Porast psiholoških uticaja zbog širenja realističnog, ali lažnog sadržaja, koji potencijalno utiče na mentalno zdravlje i javnu percepciju.
• Promjene u dinamici međunarodnih odnosa kao deepfakes postaju oruđe u geopolitičkim strategijama, utičući na diplomatiju i globalno povjerenje.

Pitanja koja treba razmotriti

• Kako sintetički mediji utiču na vašu percepciju aktuelnih događaja?
• Kako bi razvoj deepfake tehnologije mogao uticati na ravnotežu između slobode izražavanja i potrebe za regulacijom kako bi se spriječile dezinformacije i zloupotrebe?