Kwantumrun

BEELDKREDIET:

iStock

Generatieve vijandige netwerken (GAN's): het tijdperk van synthetische media

Generatieve vijandige netwerken hebben een revolutie teweeggebracht in machine learning, maar de technologie wordt steeds vaker gebruikt voor misleiding.

Auteur:
auteursnaam
Quantumrun-prognose
5 december 2023

Samenvatting inzicht

Generative Adversarial Networks (GAN's), bekend om het creëren van deepfakes, genereren synthetische gegevens die gezichten, stemmen en maniertjes uit het echte leven nabootsen. Het gebruik ervan varieert van het verbeteren van Adobe Photoshop tot het genereren van realistische filters op Snapchat. GAN's brengen echter ethische bezwaren met zich mee, omdat ze vaak worden gebruikt om misleidende deepfake-video's te maken en verkeerde informatie te verspreiden. In de gezondheidszorg bestaat er bezorgdheid over de privacy van patiëntgegevens tijdens GAN-trainingen. Ondanks deze problemen hebben GAN's nuttige toepassingen, zoals het ondersteunen van strafrechtelijk onderzoek. Het wijdverbreide gebruik ervan in verschillende sectoren, waaronder filmmaken en marketing, heeft geleid tot roep om strengere maatregelen op het gebied van gegevensprivacy en overheidsregulering van GAN-technologie.

Context van generatieve vijandige netwerken (GAN's).

GAN is een type diep neuraal netwerk dat nieuwe gegevens kan genereren die vergelijkbaar zijn met de gegevens waarop het is getraind. De twee belangrijkste blokken die met elkaar concurreren om visionaire creaties te produceren, worden de generator en de discriminator genoemd. De generator is verantwoordelijk voor het creëren van nieuwe gegevens, terwijl de discriminator probeert onderscheid te maken tussen de gegenereerde gegevens en de trainingsgegevens. De generator probeert voortdurend de discriminator voor de gek te houden door informatie te creëren die er zo echt mogelijk uitziet. Om dit te doen, moet de generator de onderliggende distributie van de gegevens leren kennen, waardoor GAN's nieuwe informatie kunnen creëren zonder deze daadwerkelijk te onthouden.

Toen GAN's in 2014 voor het eerst werden ontwikkeld door Google-onderzoeker Ian Goodfellow en zijn teamgenoten, was het algoritme veelbelovend voor machinaal leren. Sindsdien hebben GAN's veel toepassingen in de echte wereld gezien in verschillende industrieën. Adobe maakt bijvoorbeeld gebruik van GAN’s voor de volgende generatie Photoshop. Google gebruikt de kracht van GAN's voor zowel het genereren van tekst als afbeeldingen. IBM maakt effectief gebruik van GAN's voor gegevensvergroting. Snapchat gebruikt ze voor efficiënte beeldfilters en Disney voor superresoluties.

Disruptieve impact

Hoewel GAN in eerste instantie werd ontwikkeld om machinaal leren te verbeteren, hebben de toepassingen ervan twijfelachtige terreinen betreden. Er worden bijvoorbeeld voortdurend deepfake-video's gemaakt om echte mensen na te bootsen en het te laten lijken alsof ze iets doen of zeggen wat ze niet hebben gedaan. Er was bijvoorbeeld een video waarin de voormalige Amerikaanse president Barack Obama zijn collega-voormalige Amerikaanse president Donald Trump een denigrerende term noemde, en Facebook-CEO Mark Zuckerburg die opschepte over zijn vermogen om miljarden gestolen gegevens te controleren. Geen van deze dingen gebeurde in het echte leven. Bovendien richten de meeste deepfake-video's zich op vrouwelijke beroemdheden en plaatsen ze deze in pornografische inhoud. GAN's kunnen ook vanaf het begin fictieve foto's maken. Zo bleken verschillende deepfake-journalistenaccounts op LinkedIn en Twitter door AI gegenereerd. Deze synthetische profielen kunnen worden gebruikt om realistisch klinkende artikelen en thought leadership-stukken te creëren die propagandisten kunnen gebruiken.

Ondertussen bestaat er in de gezondheidszorg steeds meer bezorgdheid over gegevens die kunnen lekken door een daadwerkelijke patiëntendatabase te gebruiken als trainingsgegevens voor de algoritmen. Sommige onderzoekers beweren dat er een extra beveiligings- of maskeerlaag moet zijn om persoonlijke informatie te beschermen. Hoewel GAN vooral bekend staat om zijn vermogen om mensen te misleiden, heeft het positieve voordelen. Zo heeft de politie uit Nederland in mei 2022 een video nagespeeld van een 13-jarige jongen die in 2003 werd vermoord. Door gebruik te maken van realistische beelden van het slachtoffer hoopt de politie mensen aan te moedigen zich het slachtoffer te herinneren en met nieuwe informatie over de cold case. De politie beweert dat ze al verschillende tips hebben ontvangen, maar dat ze antecedentenonderzoek zullen moeten doen om deze te verifiëren.

Toepassingen van generatieve vijandige netwerken (GAN's)

Sommige toepassingen van generatieve vijandige netwerken (GAN's) kunnen zijn:

De filmindustrie creëert deepfake-inhoud om synthetische acteurs te plaatsen en scènes opnieuw op te nemen in post-geproduceerde films. Deze strategie kan zich vertalen in kostenbesparingen op de lange termijn, omdat ze acteurs en crew geen extra compensatie hoeven te betalen.
Het toenemende gebruik van deepfake-teksten en -video’s om ideologieën en propaganda over het verschillende politieke spectrum te promoten.
Bedrijven die synthetische video's gebruiken om uitgebreide branding- en marketingcampagnes te creëren zonder echte mensen in dienst te nemen, behalve programmeurs.
Groepen die lobbyen voor betere bescherming van gegevensprivacy voor gezondheidszorg en andere persoonlijke informatie. Deze tegenslag kan bedrijven onder druk zetten om trainingsgegevens te ontwikkelen die niet op daadwerkelijke databases zijn gebaseerd. De resultaten zijn echter mogelijk niet zo nauwkeurig.
Overheden reguleren en monitoren bedrijven die GAN-technologie produceren om ervoor te zorgen dat de technologie niet wordt gebruikt voor verkeerde informatie en fraude.