Quantumrun

BILLEDKREDIT:

iStock

Generative adversarial networks (GAN'er): Syntetiske mediers tidsalder

Generative kontradiktoriske netværk har revolutioneret maskinlæring, men teknologien bliver i stigende grad brugt til bedrag.

Forfatter:
Forfatter navn
Quantumrun Foresight
5. December, 2023

Oversigt over indsigt

Generative Adversarial Networks (GAN'er), kendt for at skabe deepfakes, genererer syntetiske data, der efterligner virkelige ansigter, stemmer og manerer. Deres brug spænder fra at forbedre Adobe Photoshop til at generere realistiske filtre på Snapchat. GAN'er udgør dog etiske bekymringer, da de ofte bruges til at skabe vildledende deepfake-videoer og udbrede misinformation. I sundhedsvæsenet er der angst for patientdatabeskyttelse i GAN-træning. På trods af disse problemer har GAN'er gavnlige applikationer, såsom hjælp til kriminel efterforskning. Deres udbredte brug på tværs af forskellige sektorer, herunder filmproduktion og markedsføring, har ført til opfordringer til strengere databeskyttelsesforanstaltninger og regeringsregulering af GAN-teknologi.

Generative adversarial networks (GANs) kontekst

GAN er en type dybt neuralt netværk, der kan generere nye data svarende til de data, det trænes på. De to hovedblokke, der konkurrerer mod hinanden om at producere visionære kreationer, kaldes generatoren og diskriminatoren. Generatoren er ansvarlig for at skabe nye data, mens diskriminatoren forsøger at skelne mellem de genererede data og træningsdataene. Generatoren forsøger konstant at narre diskriminatoren ved at skabe information, der ser så ægte ud som muligt. For at gøre dette skal generatoren lære den underliggende distribution af dataene, hvilket gør det muligt for GAN'er at skabe ny information uden egentlig at huske den.

Da GAN'er først blev udviklet i 2014 af Google-forskeren Ian Goodfellow og hans holdkammerater, viste algoritmen et stort løfte for maskinlæring. Siden da har GAN'er set en masse applikationer fra den virkelige verden på tværs af forskellige industrier. For eksempel gør Adobe brug af GAN'er til næste generation af Photoshop. Google udnytter kraften i GAN'er til både generering af tekst og billeder. IBM bruger effektivt GAN'er til dataforøgelse. Snapchat bruger dem til effektive billedfiltre og Disney til superopløsninger.

Forstyrrende påvirkning

Mens GAN oprindeligt blev oprettet for at forbedre maskinlæring, har dets applikationer krydset tvivlsomme territorier. For eksempel oprettes deepfake-videoer konstant for at efterligne rigtige mennesker og få det til at se ud som om, de gør eller siger noget, de ikke gjorde. For eksempel var der en video af den tidligere amerikanske præsident, Barack Obama, der kalder den tidligere amerikanske præsident Donald Trump for et nedsættende udtryk, og Facebooks administrerende direktør Mark Zuckerburg praler med at være i stand til at kontrollere milliarder af stjålne data. Ingen af disse skete i det virkelige liv. Derudover er de fleste deepfake-videoer rettet mod kvindelige berømtheder og placerer dem i pornografisk indhold. GAN'er er også i stand til at skabe fiktive billeder fra bunden. For eksempel viste flere deepfake journalistkonti på LinkedIn og Twitter sig at være AI-genereret. Disse syntetiske profiler kan bruges til at skabe realistisk klingende artikler og tankelederskaber, som propagandister kan bruge.

I mellemtiden er der i sundhedssektoren voksende bekymring over data, der kan lækkes ved at bruge en egentlig patientdatabase som træningsdata for algoritmerne. Nogle forskere hævder, at der skal være et ekstra sikkerheds- eller maskeringslag for at beskytte personlige oplysninger. Men selvom GAN mest er kendt for sin evne til at bedrage folk, har det positive fordele. For eksempel genskabte politiet fra Holland i maj 2022 en video af en 13-årig dreng, der blev myrdet i 2003. Ved at bruge realistiske optagelser af offeret håber politiet at opmuntre folk til at huske offeret og stå frem med nye oplysninger vedrørende cold case. Politiet hævder, at de allerede havde modtaget adskillige tip, men bliver nødt til at udføre baggrundstjek for at verificere dem.

Anvendelser af generative adversarielle netværk (GAN'er)

Nogle applikationer af generative adversarial networks (GAN'er) kan omfatte:

Filmindustrien skaber deepfake-indhold for at placere syntetiske skuespillere og genoptage scener i post-producerede film. Denne strategi kan oversætte til langsigtede omkostningsbesparelser, da de ikke behøver at betale skuespillere og besætning yderligere kompensation.
Den stigende brug af deepfake tekster og videoer til at fremme ideologier og propaganda på tværs af det forskellige politiske spektrum.
Virksomheder, der bruger syntetiske videoer til at skabe omfattende branding- og marketingkampagner uden at ansætte faktiske mennesker bortset fra programmører.
Grupper, der lobbyer for øget databeskyttelse for sundhedspleje og andre personlige oplysninger. Denne pushback kan presse virksomheder til at udvikle træningsdata, der ikke er baseret på faktiske databaser. Resultaterne er dog muligvis ikke så nøjagtige.
Regeringer, der regulerer og overvåger virksomheder, der producerer GAN-teknologi for at sikre, at teknologien ikke bliver brugt til misinformation og bedrageri.