Redes generativas adversarias (GAN): la era de los medios sintéticos

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• 5 de diciembre de 2023

Resumen de información

Las redes generativas adversarias (GAN), conocidas por crear deepfakes, generan datos sintéticos que imitan rostros, voces y gestos de la vida real. Su uso abarca desde mejorar Adobe Photoshop hasta generar filtros realistas en Snapchat. Sin embargo, las GAN plantean preocupaciones éticas, ya que a menudo se utilizan para crear vídeos engañosos y propagar información errónea. En el sector sanitario, existe ansiedad por la privacidad de los datos de los pacientes en la formación de GAN. A pesar de estos problemas, las GAN tienen aplicaciones beneficiosas, como ayudar en investigaciones criminales. Su uso generalizado en diversos sectores, incluido el cine y el marketing, ha dado lugar a pedidos de medidas de privacidad de datos más estrictas y una regulación gubernamental de la tecnología GAN.

Contexto de las redes generativas adversarias (GAN)

GAN es un tipo de red neuronal profunda que puede generar nuevos datos similares a los datos con los que está entrenada. Los dos bloques principales que compiten entre sí para producir creaciones visionarias se denominan generador y discriminador. El generador es responsable de crear nuevos datos, mientras que el discriminador intenta diferenciar entre los datos generados y los datos de entrenamiento. El generador intenta constantemente engañar al discriminador creando información que parezca lo más real posible. Para hacer esto, el generador necesita aprender la distribución subyacente de los datos, lo que permite a las GAN crear nueva información sin tener que memorizarla.

Cuando las GAN fueron desarrolladas por primera vez en 2014 por el científico investigador de Google, Ian Goodfellow y sus compañeros de equipo, el algoritmo mostró una gran promesa para el aprendizaje automático. Desde entonces, las GAN han tenido muchas aplicaciones del mundo real en diferentes industrias. Por ejemplo, Adobe utiliza GAN para Photoshop de próxima generación. Google utiliza el poder de las GAN tanto para la generación de texto como de imágenes. IBM utiliza eficazmente GAN para el aumento de datos. Snapchat los utiliza para filtros de imágenes eficientes y Disney para súper resoluciones. 

Impacto disruptivo

Si bien GAN se creó inicialmente para mejorar el aprendizaje automático, sus aplicaciones han atravesado territorios cuestionables. Por ejemplo, constantemente se crean vídeos deepfake para imitar a personas reales y hacer que parezca que están haciendo o diciendo algo que no hicieron. Por ejemplo, había un vídeo en el que el expresidente estadounidense Barack Obama llamaba despectivamente al expresidente estadounidense Donald Trump y el director ejecutivo de Facebook, Mark Zuckerburg, alardeaba de poder controlar miles de millones de datos robados. Nada de esto sucedió en la vida real. Además, la mayoría de los vídeos deepfake se dirigen a mujeres famosas y las colocan en contenido pornográfico. Las GAN también pueden crear fotografías ficticias desde cero. Por ejemplo, varias cuentas de periodistas falsas en LinkedIn y Twitter resultaron ser generadas por IA. Estos perfiles sintéticos se pueden utilizar para crear artículos que suenen realistas y piezas de liderazgo intelectual que los propagandistas puedan utilizar. 

Mientras tanto, en el sector de la salud, existe una creciente preocupación por los datos que pueden filtrarse mediante el uso de una base de datos de pacientes reales como datos de entrenamiento para los algoritmos. Algunos investigadores sostienen que debe haber una capa adicional de seguridad o de enmascaramiento para proteger la información personal. Sin embargo, aunque GAN es conocido principalmente por su capacidad para engañar a las personas, tiene beneficios positivos. Por ejemplo, en mayo de 2022, la policía de los Países Bajos recreó un vídeo de un niño de 13 años que fue asesinado en 2003. Al utilizar imágenes realistas de la víctima, la policía espera animar a la gente a recordar a la víctima y a presentar sus denuncias. nueva información sobre el caso sin resolver. La policía afirma que ya habían recibido varias pistas, pero tendrán que realizar verificaciones de antecedentes para verificarlas.

Aplicaciones de las redes generativas adversarias (GAN)

Algunas aplicaciones de redes generativas adversarias (GAN) pueden incluir: 

• La industria cinematográfica crea contenido deepfake para colocar actores sintéticos y volver a filmar escenas en películas posproducidas. Esta estrategia puede traducirse en ahorros de costos a largo plazo, ya que no necesitarán pagar a los actores y al equipo una compensación adicional.
• El uso cada vez mayor de textos y vídeos deepfake para promover ideologías y propaganda en los diferentes espectros políticos.
• Empresas que utilizan vídeos sintéticos para crear elaboradas campañas de marketing y marca sin contratar personas reales además de programadores.
• Grupos que presionan para una mayor protección de la privacidad de los datos de atención médica y otra información personal. Este retroceso puede presionar a las empresas a desarrollar datos de capacitación que no se basen en bases de datos reales. Sin embargo, es posible que los resultados no sean tan precisos.
• Los gobiernos regulan y monitorean a las empresas que producen tecnología GAN para garantizar que la tecnología no se utilice para desinformación y fraude.

Preguntas para comentar

• ¿Has experimentado el uso de la tecnología GAN? ¿Cómo fue la experiencia?
• ¿Cómo pueden las empresas y los gobiernos garantizar que GAN se utilice de forma ética?