Generativa motstridiga nätverk (GANs): Syntetiska mediers ålder

• Författare:
• författarnamn

  Quantumrun Framsyn
• December 5, 2023

Insiktssammanfattning

Generative Adversarial Networks (GAN), kända för att skapa deepfakes, genererar syntetisk data som efterliknar verkliga ansikten, röster och manér. Deras användning sträcker sig från att förbättra Adobe Photoshop till att generera realistiska filter på Snapchat. GAN utgör dock etiska problem, eftersom de ofta används för att skapa vilseledande deepfake-videor och sprida felaktig information. Inom vården finns det oro över patientdataintegritet i GAN-träning. Trots dessa problem har GAN fördelaktiga tillämpningar, som att hjälpa till med brottsutredningar. Deras utbredda användning inom olika sektorer, inklusive filmskapande och marknadsföring, har lett till krav på strängare datasekretessåtgärder och statlig reglering av GAN-teknik.

Generativa kontradiktoriska nätverk (GAN) sammanhang

GAN är en typ av djupa neurala nätverk som kan generera ny data som liknar den data den tränas på. De två huvudblocken som tävlar mot varandra för att producera visionära skapelser kallas generatorn och diskriminatorn. Generatorn ansvarar för att skapa ny data, medan diskriminatorn försöker skilja mellan genererad data och träningsdata. Generatorn försöker hela tiden lura diskriminatorn genom att skapa information som ser så verklig ut som möjligt. För att göra detta måste generatorn lära sig den underliggande distributionen av data, vilket gör att GAN:er kan skapa ny information utan att faktiskt memorera den.

När GAN först utvecklades 2014 av Googles forskare Ian Goodfellow och hans lagkamrater, visade algoritmen mycket lovande för maskininlärning. Sedan dess har GAN:er sett många verkliga tillämpningar inom olika branscher. Till exempel använder Adobe GAN för nästa generations Photoshop. Google använder kraften hos GAN för både generering av text och bilder. IBM använder effektivt GAN för dataökning. Snapchat använder dem för effektiva bildfilter och Disney för superupplösningar. 

Störande inverkan

Medan GAN ursprungligen skapades för att förbättra maskininlärning, har dess applikationer korsat tvivelaktiga territorier. Deepfake-videor skapas till exempel ständigt för att efterlikna riktiga människor och få det att se ut som om de gör eller säger något de inte gjorde. Till exempel fanns det en video av USA:s förre president Barack Obama som kallar sin tidigare USA:s president Donald Trump för en nedsättande term och Facebooks vd Mark Zuckerburg skryter om att han kunde kontrollera miljarder stulna data. Inget av dessa hände i verkligheten. Dessutom riktar sig de flesta deepfake-videor till kvinnliga kändisar och placerar dem i pornografiskt innehåll. GAN:er kan också skapa fiktiva bilder från grunden. Till exempel visade sig flera deepfake journalistkonton på LinkedIn och Twitter vara AI-genererade. Dessa syntetiska profiler kan användas för att skapa realistiskt klingande artiklar och tankeledarskap som propagandister kan använda. 

Samtidigt, inom hälso- och sjukvårdssektorn, finns det en växande oro över data som kan läcka genom att använda en faktisk patientdatabas som träningsdata för algoritmerna. Vissa forskare hävdar att det måste finnas ett extra säkerhets- eller maskeringslager för att skydda personlig information. Men även om GAN mestadels är känt för sin förmåga att lura människor, har det positiva fördelar. Till exempel, i maj 2022, återskapade polisen från Nederländerna en video av en 13-årig pojke som mördades 2003. Genom att använda realistiska bilder av offret hoppas polisen uppmuntra människor att minnas offret och träda fram med ny information om det kalla fallet. Polisen hävdar att de redan fått flera tips men kommer att behöva göra bakgrundskontroller för att verifiera dem.

Tillämpningar av generativa motstridiga nätverk (GAN)

Vissa tillämpningar av generativa motstridiga nätverk (GAN) kan inkludera: 

• Filmindustrin skapar djupfalskt innehåll för att placera syntetiska skådespelare och spela om scener i efterproducerade filmer. Denna strategi kan leda till långsiktiga kostnadsbesparingar eftersom de inte behöver betala skådespelare och besättning ytterligare ersättning.
• Den ökande användningen av djupfalska texter och videor för att främja ideologier och propaganda över olika politiska spektrum.
• Företag som använder syntetiska videor för att skapa utarbetade varumärkes- och marknadsföringskampanjer utan att anställa faktiska personer förutom programmerare.
• Grupper som lobbar för ökat dataskydd för sjukvård och annan personlig information. Denna pushback kan pressa företag att utveckla utbildningsdata som inte är baserade på faktiska databaser. Men resultaten kanske inte är lika exakta.
• Regeringar som reglerar och övervakar företag som producerar GAN-teknik för att säkerställa att tekniken inte används för desinformation och bedrägerier.

Frågor att kommentera

• Har du erfarenhet av att använda GAN-teknik? Hur var upplevelsen?
• Hur kan företag och regeringar säkerställa att GAN används etiskt?