Quantumrun

Ofbyldingskredyt:

iStock

Generative adversarial netwurken (GANs): De leeftyd fan syntetyske media

Generative adversarial netwurken hawwe revolúsjonearre masine learen, mar de technology wurdt hieltyd mear brûkt foar bedrog.

Skriuwer:
Namme fan auteur
Quantumrun Foresight
Desimber 5, 2023

Ynsjoch gearfetting

Generative Adversarial Networks (GAN's), bekend om deepfakes te meitsjen, generearje syntetyske gegevens dy't gesichten, stimmen en manieren fan it echte libben mimike. Har gebrûk farieart fan it ferbetterjen fan Adobe Photoshop oant it generearjen fan realistyske filters op Snapchat. GAN's foarmje lykwols etyske soargen, om't se faaks wurde brûkt om misleidende djippe falske fideo's te meitsjen en ferkearde ynformaasje te propagearjen. Yn sûnenssoarch is d'r eangst oer privacy fan pasjintgegevens yn GAN-training. Nettsjinsteande dizze problemen hawwe GAN's foardielige applikaasjes, lykas it helpen fan kriminele ûndersiken. Har wiidferspraat gebrûk yn ferskate sektoaren, ynklusyf filmmaking en marketing, hat laat ta oproppen foar strangere maatregels foar gegevensprivacy en regearingsregeling fan GAN-technology.

Generative adversarial netwurken (GANs) kontekst

GAN is in soarte fan djip neuraal netwurk dat nije gegevens kin generearje fergelykber mei de gegevens dêr't it op traind is. De twa haadblokken dy't tsjin elkoar konkurrearje om fisioenêre kreaasjes te meitsjen wurde de generator en diskriminator neamd. De generator is ferantwurdlik foar it meitsjen fan nije gegevens, wylst de diskriminator besiket te ûnderskieden tusken de generearre gegevens en de treningsgegevens. De generator besiket konstant de diskriminator te narjen troch ynformaasje te meitsjen dy't sa echt mooglik sjocht. Om dit te dwaan, moat de generator de ûnderlizzende ferdieling fan 'e gegevens leare, wêrtroch GAN's nije ynformaasje kinne oanmeitsje sûnder it feitlik te ûnthâlden.

Doe't GAN's foar it earst yn 2014 ûntwikkele waarden troch Google-ûndersykswittenskipper Ian Goodfellow en syn teamgenoaten, toande it algoritme grutte belofte foar masine learen. Sûnt dy tiid hawwe GAN's in protte echte applikaasjes sjoen yn ferskate yndustry. Bygelyks, Adobe makket gebrûk fan GAN's foar Photoshop fan folgjende generaasje. Google brûkt de krêft fan GAN's foar sawol it generearjen fan tekst as ôfbyldings. IBM brûkt effektyf GAN's foar gegevensfergrutting. Snapchat brûkt se foar effisjinte ôfbyldingsfilters en Disney foar superresolúsjes.

Disruptive ynfloed

Wylst GAN ynearsten waard makke om masine learen te ferbetterjen, hawwe har applikaasjes twifele gebieten oerstutsen. Deepfake-fideo's wurde bygelyks konstant makke om echte minsken te mimikjen en it derút te meitsjen dat se wat dogge of sizze wat se net diene. Bygelyks, d'r wie in fideo fan eardere Amerikaanske presidint Barack Obama dy't kollega-eardere Amerikaanske presidint Donald Trump in derogearjende term neamde en Facebook CEO Mark Zuckerburg bracht oer it yn steat wêze om miljarden stellen gegevens te kontrolearjen. Gjin fan dizze barde yn it echte libben. Derneist binne de measte djipfake-fideo's rjochte op froulike ferneamden en pleatse se yn pornografyske ynhâld. GAN's kinne ek fiktive foto's meitsje fanôf it begjin. Bygelyks, ferskate deepfake sjoernalist-akkounts op LinkedIn en Twitter die bliken AI-generearre te wêzen. Dizze syntetyske profilen kinne brûkt wurde om realistysk klinkende artikels en gedachteliederskipstikken te meitsjen dy't propagandisten kinne brûke.

Underwilens binne d'r yn 'e sûnenssektor groeiende soargen oer gegevens dy't kinne wurde lekke troch it brûken fan in wirklike pasjintdatabase as trainingsgegevens foar de algoritmen. Guon ûndersikers beweare dat d'r in ekstra feiligens- of maskerlaach wêze moat om persoanlike ynformaasje te beskermjen. Hoewol, hoewol GAN meast bekend is om har fermogen om minsken te ferrifeljen, hat it positive foardielen. Sa makke de plysje út Nederlân yn maaie 2022 in fideo fan in 13-jierrige jonge dy't fermoarde waard yn 2003. Troch realistyske bylden fan it slachtoffer te brûken hopet de plysje minsken oan te moedigjen it slachtoffer te ûnthâlden en nei foaren te kommen mei nije ynformaasje oangeande de kâlde saak. De plysje beweart dat se al ferskate tips krigen hawwe, mar wol eftergrûnkontrôles dwaan moatte om dy te ferifiearjen.

Applikaasjes fan generative adversarial netwurken (GAN's)

Guon tapassingen fan generative adversarial netwurken (GAN's) kinne omfetsje:

De filmmaaksektor makket djipfake ynhâld om syntetyske akteurs te pleatsen en sênes opnij te sjitten yn post-produsearre films. Dizze strategy kin oersette nei kostenbesparring op lange termyn, om't se gjin ekstra kompensaasje foar akteurs en bemanning hoege te beteljen.
It tanimmend gebrûk fan djippe fake teksten en fideo's om ideologyen en propaganda te befoarderjen oer it ferskate politike spektrum.
Bedriuwen dy't syntetyske fideo's brûke om útwurke branding- en marketingkampanjes te meitsjen sûnder werklike minsken yn te hieren behalve programmeurs.
Groepen lobbyje foar ferhege beskerming fan gegevens privacy foar sûnenssoarch en oare persoanlike ynformaasje. Dizze pushback kin bedriuwen drukke om trainingsgegevens te ûntwikkeljen dy't net basearre binne op werklike databases. De resultaten kinne lykwols net sa krekt wêze.
Regearingen dy't bedriuwen regelje en kontrolearje dy't GAN-technology produsearje om te soargjen dat de technology net wurdt brûkt foar ferkearde ynformaasje en fraude.