Generatív ellenséges hálózatok (GAN): A szintetikus média kora

• Szerző:
• Szerző neve

  Quantumrun Foresight
• December 5, 2023

Insight összefoglaló

A mélyhamisításokról ismert Generatív Adversarial Networks (GAN-ok) szintetikus adatokat generál, amelyek a valós arcokat, hangokat és modorokat utánozzák. Felhasználásuk az Adobe Photoshop fejlesztésétől a valósághű szűrők létrehozásáig terjed a Snapchaten. A GAN-ok azonban etikai aggályokat vetnek fel, mivel gyakran használják félrevezető mélyhamisított videók készítésére és téves információk terjesztésére. Az egészségügyben aggodalomra ad okot a betegek adatainak védelme a GAN képzésben. E problémák ellenére a GAN-oknak vannak hasznos alkalmazásai, például a bűnügyi nyomozások segítése. Széles körben elterjedt használatuk a különböző ágazatokban, beleértve a filmkészítést és a marketinget, szigorúbb adatvédelmi intézkedésekre és a GAN-technológiára vonatkozó kormányzati szabályozásra vezetett.

Generatív ellenséges hálózatok (GAN) környezet

A GAN a mély neurális hálózatok egyik típusa, amely képes új, a betanított adatokhoz hasonló adatokat generálni. A két fő blokkot, amelyek egymással versengenek a látomásos alkotások létrehozásáért, generátornak és megkülönböztetőnek nevezik. A generátor felelős az új adatok létrehozásáért, míg a diszkriminátor igyekszik különbséget tenni a generált adatok és a betanítási adatok között. A generátor folyamatosan megpróbálja becsapni a megkülönböztetőt azzal, hogy a lehető legvalóságosabbnak tűnő információkat hoz létre. Ehhez a generátornak meg kell tanulnia az adatok mögöttes eloszlását, lehetővé téve a GAN-ok számára, hogy új információkat hozzanak létre anélkül, hogy azokat ténylegesen megjegyeznék.

Amikor 2014-ben a Google kutatója, Ian Goodfellow és csapattársai először kifejlesztették a GAN-okat, az algoritmus ígéretesnek bizonyult a gépi tanulás terén. Azóta a GAN-ok számos valós alkalmazást láttak a különböző iparágakban. Az Adobe például GAN-okat használ a Photoshop következő generációjához. A Google a GAN-ok erejét használja szövegek és képek generálására. Az IBM hatékonyan használja a GAN-okat az adatok bővítésére. A Snapchat hatékony képszűrőkhöz, a Disney pedig a szuper felbontásokhoz használja őket. 

Bomlasztó hatás

Míg a GAN-t eredetileg a gépi tanulás javítására hozták létre, alkalmazásai megkérdőjelezhető területeken léptek át. Például a mélyhamisított videókat folyamatosan úgy készítik, hogy valós embereket utánozzanak, és úgy tűnjenek, mintha valamit csinálnának vagy mondanának, amit nem. Volt például egy videó, amelyen Barack Obama volt amerikai elnök becsmérlő kifejezésnek nevezte Donald Trump korábbi amerikai elnök társát, Mark Zuckerburg, a Facebook vezérigazgatója pedig azzal kérkedik, hogy több milliárdnyi ellopott adatot ellenőrizhet. Ezek egyike sem történt meg a való életben. Ezenkívül a legtöbb mélyhamisított videó női hírességeket céloz meg, és pornográf tartalmakban helyezi el őket. A GAN-ok a semmiből is képesek kitalált fényképeket készíteni. Például kiderült, hogy több mélyhamis újságírói fiók a LinkedInen és a Twitteren mesterséges intelligencia által generált. Ezekkel a szintetikus profilokkal reális hangzású cikkeket és gondolatvezetői darabokat lehet létrehozni, amelyeket a propagandisták felhasználhatnak. 

Mindeközben az egészségügyi szektorban egyre nagyobb aggodalomra ad okot az olyan adatok kiszivárogtatása, amelyek tényleges betegadatbázist használnak az algoritmusok képzési adataiként. Egyes kutatók azzal érvelnek, hogy szükség van egy további biztonsági vagy maszkoló rétegre a személyes adatok védelmére. Bár a GAN leginkább arról ismert, hogy képes megtéveszteni az embereket, pozitív előnyei vannak. Például 2022 májusában a holland rendőrség újra elkészített egy videót egy 13 éves fiúról, akit 2003-ban gyilkoltak meg. Az áldozatról készült valósághű felvételek felhasználásával a rendőrség reméli, hogy arra ösztönzi az embereket, hogy emlékezzenek az áldozatra, és álljanak elő új információk a hideg esettel kapcsolatban. A rendőrség azt állítja, hogy már több tippet is kaptak, de ezek ellenőrzéséhez háttérellenőrzést kell végezniük.

Generatív ellenséges hálózatok (GAN) alkalmazásai

A generatív ellenséges hálózatok (GAN) egyes alkalmazásai a következők lehetnek: 

• A filmgyártó ipar mélyhamisított tartalmat hoz létre, hogy szintetikus színészeket helyezzen el, és utógyártású filmek jeleneteit újraforgatja. Ez a stratégia hosszú távú költségmegtakarítást eredményezhet, mivel nem kell további kompenzációt fizetniük a szereplőknek és a stábnak.
• A mélyhamisított szövegek és videók növekvő használata az ideológiák és a propaganda népszerűsítésére a különböző politikai spektrumokban.
• Szintetikus videókat használó vállalatok bonyolult márkaépítési és marketingkampányok létrehozására anélkül, hogy a programozókon kívül tényleges embereket alkalmaznának.
• Csoportok, amelyek az egészségügyi és egyéb személyes adatok fokozottabb adatvédelméért lobbiznak. Ez a visszaszorítás arra kényszerítheti a vállalatokat, hogy olyan képzési adatokat dolgozzanak ki, amelyek nem tényleges adatbázisokon alapulnak. Az eredmények azonban nem biztos, hogy olyan pontosak.
• A kormányok szabályozzák és felügyelik a GAN technológiát gyártó cégeket annak biztosítására, hogy a technológiát ne használják fel félretájékoztatásra és csalásra.

Kérdések, amelyekhez hozzászólni kell

• Tapasztaltad már a GAN technológia használatát? Milyen volt az élmény?
• Hogyan biztosíthatják a vállalatok és a kormányok, hogy a GAN-t etikusan használják?