Generativní adversariální sítě (GAN): Věk syntetických médií

• Autor:
• jméno autora

  Quantumrun Foresight
• 5. prosince 2023

Shrnutí statistik

Generative Adversarial Networks (GAN), známé pro vytváření deepfakes, generují syntetická data, která napodobují skutečné tváře, hlasy a způsoby chování. Jejich použití sahá od vylepšení Adobe Photoshopu až po generování realistických filtrů na Snapchatu. GAN však vyvolávají etické obavy, protože se často používají k vytváření zavádějících hluboce falešných videí a šíření dezinformací. Ve zdravotnictví panuje při školení GAN obava o soukromí dat pacientů. Navzdory těmto problémům mají GAN užitečné aplikace, jako je pomoc při vyšetřování trestných činů. Jejich široké použití v různých odvětvích, včetně filmové tvorby a marketingu, vedlo k volání po přísnějších opatřeních na ochranu osobních údajů a vládní regulaci technologie GAN.

Kontext generativních adversariálních sítí (GAN).

GAN je typ hluboké neuronové sítě, která dokáže generovat nová data podobná datům, na kterých je trénována. Dva hlavní bloky, které proti sobě soutěží, aby vytvořily vizionářské výtvory, se nazývají generátor a diskriminátor. Generátor je zodpovědný za vytváření nových dat, zatímco diskriminátor se snaží odlišit vygenerovaná data a trénovací data. Generátor se neustále snaží oklamat diskriminátor tím, že vytváří informace, které vypadají co nejreálněji. K tomu se generátor potřebuje naučit základní distribuci dat, což GANům umožní vytvářet nové informace, aniž by si je skutečně pamatoval.

Když byly GAN poprvé vyvinuty v roce 2014 výzkumným pracovníkem společnosti Google Ianem Goodfellowem a jeho týmovými kolegy, algoritmus se ukázal jako velký příslib pro strojové učení. Od té doby GAN zaznamenaly mnoho aplikací v reálném světě v různých odvětvích. Například společnost Adobe využívá GAN pro Photoshop nové generace. Google využívá sílu GAN pro generování textu i obrázků. IBM efektivně využívá GAN pro rozšiřování dat. Snapchat je využívá pro efektivní obrazové filtry a Disney pro super rozlišení. 

Rušivý dopad

Zatímco GAN byl původně vytvořen pro zlepšení strojového učení, jeho aplikace prošly spornými oblastmi. Například hluboce falešná videa jsou neustále vytvářena, aby napodobovala skutečné lidi a aby to vypadalo, že dělají nebo říkají něco, co nedělali. Objevilo se například video, na kterém bývalý americký prezident Barack Obama označil bývalého amerického prezidenta Donalda Trumpa za hanlivé označení a generální ředitel Facebooku Mark Zuckerburg se chlubil tím, že dokáže kontrolovat miliardy ukradených dat. Nic z toho se v reálném životě nestalo. Většina deepfake videí se navíc zaměřuje na ženské celebrity a umísťuje je do pornografického obsahu. GANy jsou také schopny vytvářet fiktivní fotografie od nuly. Ukázalo se například, že několik deepfake novinářských účtů na LinkedIn a Twitteru bylo vytvořeno umělou inteligencí. Tyto syntetické profily lze použít k vytvoření realisticky znějících článků a myšlenkových vůdců, které mohou použít propagandisté. 

Mezitím v sektoru zdravotnictví narůstají obavy z dat, která mohou uniknout použitím skutečné databáze pacientů jako tréninkových dat pro algoritmy. Někteří výzkumníci tvrdí, že musí existovat další bezpečnostní nebo maskovací vrstva na ochranu osobních údajů. Ačkoli je však GAN většinou známý svou schopností klamat lidi, má pozitivní výhody. Například v květnu 2022 policie z Nizozemska znovu vytvořila video 13letého chlapce, který byl zavražděn v roce 2003. Policie doufá, že použitím realistických záběrů oběti povzbudí lidi, aby si na oběť vzpomněli a přišli s nové informace týkající se studeného pouzdra. Policie tvrdí, že již obdržela několik tipů, ale bude muset provést prověrky, aby je prověřila.

Aplikace generativních adversariálních sítí (GAN)

Některé aplikace generativních adversariálních sítí (GAN) mohou zahrnovat: 

• Filmařský průmysl vytváří deepfake obsah pro umístění syntetických herců a přetočení scén v postprodukovaných filmech. Tato strategie se může promítnout do dlouhodobých úspor nákladů, protože nebudou muset platit hercům a štábu další kompenzace.
• Rostoucí používání hluboce falešných textů a videí k propagaci ideologií a propagandy napříč různým politickým spektrem.
• Společnosti využívající syntetická videa k vytváření propracovaných brandingových a marketingových kampaní, aniž by najímaly skutečné lidi kromě programátorů.
• Skupiny lobbující za zvýšenou ochranu soukromí dat pro zdravotní péči a další osobní informace. Toto potlačení může přimět společnosti, aby vyvíjely školicí data, která nejsou založena na skutečných databázích. Výsledky však nemusí být tak přesné.
• Vlády regulují a monitorují firmy, které vyrábějí technologii GAN, aby zajistily, že tato technologie nebude používána k dezinformacím a podvodům.

Otázky ke komentáři

• Máte zkušenosti s používáním technologie GAN? Jaká to byla zkušenost?
• Jak mohou společnosti a vlády zajistit, aby GAN byl používán eticky?