Xarxes adversàries generatives (GAN): L'era dels mitjans sintètics

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Desembre 5, 2023

Resum d'informació

Les xarxes generatives d'adversari (GAN), conegudes per crear deepfakes, generen dades sintètiques que imiten cares, veus i gestos de la vida real. El seu ús va des de millorar Adobe Photoshop fins a generar filtres realistes a Snapchat. Tanmateix, els GAN plantegen preocupacions ètiques, ja que sovint s'utilitzen per crear vídeos deepfake enganyosos i propagar informació errònia. A l'assistència sanitària, hi ha ansietat per la privadesa de les dades dels pacients a la formació GAN. Malgrat aquests problemes, els GAN tenen aplicacions beneficioses, com ara ajudar a les investigacions criminals. El seu ús generalitzat en diversos sectors, inclosos la realització de pel·lícules i el màrqueting, ha fet que es demanin mesures de privadesa de dades més estrictes i una regulació governamental de la tecnologia GAN.

Context de xarxes generatives adversaries (GAN).

GAN és un tipus de xarxa neuronal profunda que pot generar noves dades similars a les dades en què s'entrena. Els dos blocs principals que competeixen entre ells per produir creacions visionàries s'anomenen generador i discriminador. El generador s'encarrega de crear noves dades, mentre que el discriminador intenta diferenciar entre les dades generades i les dades d'entrenament. El generador està constantment intentant enganyar el discriminador creant informació que sembli tan real com sigui possible. Per fer-ho, el generador ha d'aprendre la distribució subjacent de les dades, permetent als GAN crear nova informació sense memoritzar-la.

Quan els GAN van ser desenvolupats per primera vegada el 2014 pel científic investigador de Google Ian Goodfellow i els seus companys d'equip, l'algoritme va mostrar una gran promesa per a l'aprenentatge automàtic. Des de llavors, els GAN han vist moltes aplicacions del món real en diferents indústries. Per exemple, Adobe fa ús de GAN per a Photoshop de nova generació. Google utilitza el poder de les GAN tant per a la generació de text com d'imatges. IBM utilitza de manera efectiva les GAN per augmentar les dades. Snapchat els utilitza per a filtres d'imatge eficients i Disney per a super resolucions. 

Impacte disruptiu

Tot i que GAN es va crear inicialment per millorar l'aprenentatge automàtic, les seves aplicacions han travessat territoris qüestionables. Per exemple, els vídeos deepfake es creen constantment per imitar persones reals i fer que sembli que estan fent o dient alguna cosa que no van fer. Per exemple, hi va haver un vídeo de l'expresident nord-americà Barack Obama qualificant el seu expresident dels Estats Units, Donald Trump, d'un terme despectiu i el conseller delegat de Facebook, Mark Zuckerburg, es van presumir de poder controlar milers de milions de dades robades. Res d'això va passar a la vida real. A més, la majoria dels vídeos deepfake es dirigeixen a dones celebritats i les col·loquen en contingut pornogràfic. Els GAN també poden crear fotos de ficció des de zero. Per exemple, diversos comptes de periodistes falsos a LinkedIn i Twitter van resultar generats per IA. Aquests perfils sintètics es poden utilitzar per crear articles de son realista i peces de lideratge pensat que els propagandistes poden utilitzar. 

Mentrestant, al sector sanitari, hi ha una creixent preocupació sobre les dades que es poden filtrar mitjançant l'ús d'una base de dades de pacients real com a dades d'entrenament per als algorismes. Alguns investigadors argumenten que hi ha d'haver una capa addicional de seguretat o d'emmascarament per protegir la informació personal. Tanmateix, tot i que GAN és conegut sobretot per la seva capacitat d'enganyar la gent, té beneficis positius. Per exemple, el maig de 2022, la policia dels Països Baixos va recrear un vídeo d'un nen de 13 anys que va ser assassinat el 2003. Mitjançant l'ús de imatges realistes de la víctima, la policia espera animar la gent a recordar-la i a manifestar-la. nova informació sobre el cas fred. La policia afirma que ja havia rebut diversos consells, però haurà de fer comprovacions d'antecedents per verificar-les.

Aplicacions de xarxes generatives adversaries (GAN)

Algunes aplicacions de xarxes adversàries generatives (GAN) poden incloure: 

• La indústria cinematogràfica crea contingut deepfake per col·locar actors sintètics i tornar a rodar escenes en pel·lícules postproduïdes. Aquesta estratègia es pot traduir en un estalvi de costos a llarg termini, ja que no hauran de pagar una compensació addicional als actors i a la tripulació.
• L'ús creixent de textos i vídeos deepfake per promoure ideologies i propaganda en els diferents espectres polítics.
• Empreses que utilitzen vídeos sintètics per crear campanyes elaborades de marca i màrqueting sense contractar persones reals a part dels programadors.
• Grups que fan pressió per augmentar la protecció de la privadesa de les dades per a la salut i altres dades personals. Aquest retrocés pot pressionar les empreses perquè desenvolupin dades de formació que no es basen en bases de dades reals. Tanmateix, és possible que els resultats no siguin tan precisos.
• Els governs que regulen i controlen les empreses que produeixen tecnologia GAN per garantir que la tecnologia no s'utilitzi per a desinformació i frau.

Preguntes per comentar

• Heu experimentat l'ús de la tecnologia GAN? Com va ser l'experiència?
• Com poden les empreses i els governs assegurar-se que el GAN ​​s'utilitza de manera ètica?