Generatívne adversariálne siete (GAN): Vek syntetických médií

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Decembra 5, 2023

Súhrn prehľadu

Generative Adversarial Networks (GAN), známe pre vytváranie deepfakes, generujú syntetické údaje, ktoré napodobňujú skutočné tváre, hlasy a spôsoby. Ich využitie siaha od vylepšenia Adobe Photoshopu až po generovanie realistických filtrov na Snapchate. GAN však vyvolávajú etické obavy, pretože sa často používajú na vytváranie zavádzajúcich hlboko falošných videí a na šírenie dezinformácií. V zdravotníctve existuje obava o súkromie údajov pacientov pri školení GAN. Napriek týmto problémom majú siete GAN prospešné aplikácie, ako napríklad pomoc pri vyšetrovaní trestných činov. Ich rozšírené používanie v rôznych sektoroch, vrátane filmovej tvorby a marketingu, viedlo k výzvam na prísnejšie opatrenia na ochranu údajov a vládnu reguláciu technológie GAN.

Kontext generatívnych adverzálnych sietí (GAN).

GAN je typ hlbokej neurónovej siete, ktorá dokáže generovať nové dáta podobné dátam, na ktorých je trénovaná. Dva hlavné bloky, ktoré si navzájom konkurujú pri vytváraní vizionárskych výtvorov, sa nazývajú generátor a diskriminátor. Generátor je zodpovedný za vytváranie nových údajov, zatiaľ čo diskriminátor sa snaží odlíšiť generované údaje od trénovacích údajov. Generátor sa neustále snaží oklamať diskriminátora vytváraním informácií, ktoré vyzerajú čo najreálnejšie. Aby to mohol urobiť, musí sa generátor naučiť základnú distribúciu údajov, čo umožňuje sieťam GAN vytvárať nové informácie bez toho, aby si ich skutočne pamätali.

Keď v roku 2014 prvýkrát vyvinul GAN ​​výskumný pracovník spoločnosti Google Ian Goodfellow a jeho tímoví kolegovia, tento algoritmus sa ukázal ako veľký prísľub pre strojové učenie. Odvtedy GAN zaznamenali množstvo aplikácií v reálnom svete v rôznych odvetviach. Napríklad spoločnosť Adobe využíva siete GAN pre Photoshop novej generácie. Google využíva silu sietí GAN na generovanie textu aj obrázkov. IBM efektívne využíva siete GAN na rozširovanie údajov. Snapchat ich využíva na efektívne obrazové filtre a Disney na super rozlíšenia. 

Rušivý vplyv

Zatiaľ čo GAN bol pôvodne vytvorený na zlepšenie strojového učenia, jeho aplikácie prekročili sporné územia. Napríklad hlboké falošné videá sú neustále vytvárané, aby napodobňovali skutočných ľudí a aby to vyzeralo, že robia alebo hovoria niečo, čo neurobili. Objavilo sa napríklad video, na ktorom bývalý americký prezident Barack Obama označil bývalého amerického prezidenta Donalda Trumpa za hanlivé označenie a generálny riaditeľ Facebooku Mark Zuckerburg sa vychvaľoval, že dokáže kontrolovať miliardy ukradnutých dát. Nič z toho sa nestalo v reálnom živote. Okrem toho sa väčšina deepfake videí zameriava na ženské celebrity a umiestňuje ich do pornografického obsahu. GAN sú tiež schopné vytvárať fiktívne fotografie od začiatku. Ukázalo sa napríklad, že niekoľko hlbokých falošných novinárskych účtov na LinkedIn a Twitteri bolo vygenerovaných AI. Tieto syntetické profily možno použiť na vytvorenie realisticky znejúcich článkov a kúskov myšlienkového vedenia, ktoré môžu použiť propagandisti. 

Medzitým v sektore zdravotnej starostlivosti narastajú obavy z údajov, ktoré môžu uniknúť pomocou skutočnej databázy pacientov ako tréningových údajov pre algoritmy. Niektorí vedci tvrdia, že na ochranu osobných údajov musí existovať dodatočná bezpečnostná alebo maskovacia vrstva. Hoci je však GAN väčšinou známy svojou schopnosťou klamať ľudí, má pozitívne výhody. Napríklad v máji 2022 polícia z Holandska znovu vytvorila video 13-ročného chlapca, ktorý bol zavraždený v roku 2003. Použitím realistických záberov obete polícia dúfa, že povzbudí ľudí, aby si na obeť spomenuli a prišli s nové informácie o studenom prípade. Polícia tvrdí, že už dostala niekoľko tipov, ale na ich overenie bude musieť vykonať previerky.

Aplikácie generatívnych adversariálnych sietí (GAN)

Niektoré aplikácie generatívnych adversariálnych sietí (GAN) môžu zahŕňať: 

• Filmový priemysel vytvára hlboko falošný obsah na umiestnenie syntetických hercov a opätovné natáčanie scén v postprodukovaných filmoch. Táto stratégia sa môže premietnuť do dlhodobých úspor nákladov, pretože nebudú musieť platiť hercom a štábu ďalšiu kompenzáciu.
• Rastúce používanie hlboko falošných textov a videí na propagáciu ideológií a propagandy naprieč rôznym politickým spektrom.
• Spoločnosti využívajúce syntetické videá na vytváranie prepracovaných brandingových a marketingových kampaní bez najímania skutočných ľudí okrem programátorov.
• Skupiny lobujúce za zvýšenú ochranu osobných údajov v oblasti zdravotnej starostlivosti a iných osobných informácií. Toto potlačenie môže tlačiť na spoločnosti, aby vyvíjali školiace údaje, ktoré nie sú založené na skutočných databázach. Výsledky však nemusia byť také presné.
• Vlády regulujúce a monitorujúce firmy, ktoré vyrábajú technológiu GAN, aby zabezpečili, že táto technológia sa nepoužíva na dezinformácie a podvody.

Otázky na komentár

• Máte skúsenosti s používaním technológie GAN? Aký to bol zážitok?
• Ako môžu spoločnosti a vlády zabezpečiť, aby sa GAN používal eticky?