Kuantumrun

GÖRÜNTÜ KREDİSİ:

iStock

Üretken çekişmeli ağlar (GAN'lar): Sentetik medyanın çağı

Üretken rakip ağlar, makine öğreniminde devrim yarattı, ancak teknoloji giderek daha fazla aldatma için kullanılıyor.

Yazar:
Yazar adı
Kuantumrun Öngörüsü
5 Aralık 2023

Analiz özeti

Deepfake oluşturmasıyla bilinen Üretken Rekabet Ağları (GAN'lar), gerçek hayattaki yüzleri, sesleri ve tavırları taklit eden sentetik veriler üretir. Kullanımları Adobe Photoshop'u geliştirmekten Snapchat'te gerçekçi filtreler oluşturmaya kadar uzanır. Bununla birlikte, GAN'lar sıklıkla yanıltıcı derin sahte videolar oluşturmak ve yanlış bilgi yaymak için kullanıldıklarından etik kaygılar doğurmaktadır. Sağlık hizmetlerinde GAN eğitiminde hasta verilerinin gizliliği konusunda endişeler var. Bu sorunlara rağmen GAN'ların cezai soruşturmalara yardımcı olmak gibi faydalı uygulamaları vardır. Film yapımı ve pazarlama da dahil olmak üzere çeşitli sektörlerdeki yaygın kullanımları, daha sıkı veri gizliliği önlemleri ve GAN teknolojisine yönelik hükümet düzenlemeleri yapılması çağrılarına yol açtı.

Üretken çekişmeli ağlar (GAN'ler) bağlamı

GAN, üzerinde eğitim aldığı verilere benzer yeni veriler üretebilen bir tür derin sinir ağıdır. Vizyoner yaratımlar üretmek için birbiriyle yarışan iki ana bloğa jeneratör ve ayrıştırıcı adı veriliyor. Jeneratör yeni veri oluşturmaktan sorumludur, ayırıcı ise üretilen veri ile eğitim verisi arasında ayrım yapmaya çalışır. Jeneratör, mümkün olduğu kadar gerçek görünen bilgiler yaratarak ayrımcıyı sürekli kandırmaya çalışıyor. Bunu yapmak için jeneratörün, GAN'ların aslında ezberlemeden yeni bilgiler oluşturmasına olanak tanıyacak şekilde verinin temel dağılımını öğrenmesi gerekir.

GAN'lar ilk kez 2014 yılında Google araştırma bilimcisi Ian Goodfellow ve ekip arkadaşları tarafından geliştirildiğinde, algoritma makine öğrenimi için büyük umut vaat ediyordu. O zamandan beri GAN'lar farklı endüstrilerde birçok gerçek dünya uygulamasına tanık oldu. Örneğin Adobe, yeni nesil Photoshop için GAN'lardan yararlanıyor. Google, hem metin hem de görsel oluşturmak için GAN'ların gücünden yararlanır. IBM, verileri artırmak için GAN'ları etkili bir şekilde kullanıyor. Snapchat bunları etkili görüntü filtreleri için, Disney ise süper çözünürlükler için kullanıyor.

Yıkıcı etki

GAN başlangıçta makine öğrenimini geliştirmek için oluşturulmuş olsa da uygulamaları şüpheli bölgeleri aştı. Örneğin, derin sahte videolar sürekli olarak gerçek insanları taklit etmek ve onların yapmadıkları bir şeyi yapıyor veya söylüyormuş gibi görünmesini sağlamak için oluşturulmaktadır. Örneğin, eski ABD Başkanı Barack Obama'nın eski ABD Başkanı Donald Trump'ı aşağılayıcı bir tabir olarak nitelendirdiği ve Facebook CEO'su Mark Zuckerburg'un milyarlarca çalınan veriyi kontrol edebildiğiyle övündüğü bir video vardı. Bunların hiçbiri gerçek hayatta olmadı. Ayrıca deepfake videoların çoğu kadın ünlüleri hedef alıyor ve onları pornografik içeriğe yerleştiriyor. GAN'lar ayrıca sıfırdan kurgusal fotoğraflar da oluşturabilir. Örneğin, LinkedIn ve Twitter'daki bazı deepfake gazeteci hesaplarının yapay zeka tarafından oluşturulduğu ortaya çıktı. Bu sentetik profiller, propagandacıların kullanabileceği gerçekçi görünen makaleler ve düşünce liderliği parçaları oluşturmak için kullanılabilir.

Bu arada sağlık sektöründe, algoritmalar için eğitim verileri olarak gerçek bir hasta veri tabanının kullanılmasıyla sızdırılabilecek veriler konusunda artan endişeler var. Bazı araştırmacılar, kişisel bilgilerin korunması için ek bir güvenlik veya maskeleme katmanının olması gerektiğini savunuyor. Ancak GAN çoğunlukla insanları kandırma yeteneğiyle bilinse de olumlu faydaları da var. Örneğin, Mayıs 2022'de Hollanda polisi, 13 yılında öldürülen 2003 yaşındaki bir erkek çocuğunun videosunu yeniden oluşturdu. Polis, kurbanın gerçekçi görüntülerini kullanarak insanları kurbanı hatırlamaya ve bu konuda öne çıkmaya teşvik etmeyi umuyor. Soğmuş davayla ilgili yeni bilgiler. Polis, halihazırda çok sayıda ipucu aldıklarını ancak bunları doğrulamak için geçmiş araştırmaları yapmak zorunda kalacaklarını iddia ediyor.

Üretken çekişmeli ağların (GAN'ler) uygulamaları

Üretken çekişmeli ağların (GAN'ler) bazı uygulamaları şunları içerebilir:

Film yapım endüstrisi, post prodüksiyon filmlere sentetik oyuncuları yerleştirmek ve sahneleri yeniden çekmek için deepfake içerik yaratıyor. Bu strateji, oyunculara ve ekibe ek tazminat ödemelerine gerek kalmayacağı için uzun vadede maliyet tasarrufu sağlayabilir.
Farklı siyasi yelpazede ideolojileri ve propagandayı teşvik etmek için deepfake metin ve videoların artan kullanımı.
Programcılar dışında gerçek kişileri işe almadan ayrıntılı markalama ve pazarlama kampanyaları oluşturmak için sentetik videolar kullanan şirketler.
Sağlık hizmetleri ve diğer kişisel bilgiler için veri gizliliğinin daha fazla korunması için lobi faaliyeti yürüten gruplar. Bu geri itme, şirketleri gerçek veritabanlarına dayanmayan eğitim verileri geliştirmeye zorlayabilir. Ancak sonuçlar o kadar doğru olmayabilir.
Hükümetler, GAN teknolojisi üreten firmaları, teknolojinin yanlış bilgilendirme ve dolandırıcılık için kullanılmamasını sağlamak amacıyla düzenliyor ve izliyor.