Üretken algoritmalar: Bu, 2020'lerin en yıkıcı teknolojisi olabilir mi?

• Yazar:
• Yazar adı

  Kuantumrun Öngörüsü
• Şubat 21, 2023

Üretken algoritmaların neden olduğu ilk derin sahte skandallara rağmen, bu yapay zeka (AI) teknolojileri, medya şirketlerinden reklam ajanslarına ve film stüdyolarına kadar pek çok sektörün inandırıcı içerik oluşturmak için kullandığı güçlü bir araç olmaya devam ediyor. Bazı uzmanlar, bu yapay zeka algoritmalarının yetenekleri yakında halkı çarpıtma ve aldatma potansiyeline sahip olacağından, üretken yapay zekanın daha yakından izlenmesi gerektiğini savunuyor, beyaz yakalı emeğin geniş alanlarını otomatikleştirmekten bahsetmiyorum bile.

Üretken algoritmalar bağlamı

En az insan müdahalesiyle içerik (metin, ses, görüntü, video ve daha fazlası dahil) oluşturabilen üretken yapay zeka veya algoritmalar, 2010'lardan bu yana önemli ilerlemeler kaydetti. Örneğin, OpenAI'nin Generative Pre-trained Transformer 3'ü (GPT-3) 2020'de piyasaya sürüldü ve türünün en gelişmiş sinir ağı olarak kabul ediliyor. Bir kişinin yazacağı bir şeyden neredeyse ayırt edilemeyen metinler üretebilir. Daha sonra Kasım 2022'de OpenAI, kullanıcı istemlerine ayrıntılı yanıtlar verme ve birçok alanda yanıtları ifade etme konusundaki çarpıcı yeteneği nedeniyle önemli ölçüde tüketici, özel sektör ve medyanın ilgisini çeken bir algoritma olan ChatGPT'yi piyasaya sürdü.

Popülarite (ve ün) kazanan bir başka üretici yapay zeka teknolojisi de derin sahtekarlıklardır. Deepfake'lerin arkasındaki teknoloji, orijinaline en yakın görüntüleri üretmek için iki algoritmanın birbirini eğittiği üretken çekişmeli ağları (GAN'lar) kullanır. Bu teknoloji kulağa karmaşık gelse de, üretilmesi nispeten kolay hale geldi. Faceswap ve ZAO Deepswap gibi çok sayıda çevrimiçi uygulama dakikalar içinde (ve bazı uygulamalarda anında) derin sahte görüntüler, ses ve videolar oluşturabilir.

Tüm bu üretken AI araçları başlangıçta makine ve derin öğrenme teknolojilerini ilerletmek için geliştirilmiş olsa da, etik olmayan uygulamalar için de kullanılmıştır. Yeni nesil dezenformasyon ve propaganda kampanyaları bu araçları kullanarak gelişti. Yapay zeka tarafından oluşturulan köşe yazıları, videolar ve resimler gibi sentetik medya, bir sahte haber seline yol açtı. Deepfake yorum botları, çevrimiçi ortamda kadınları ve azınlıkları taciz etmek için bile kullanıldı. 

Yıkıcı etki

Üretken AI sistemleri, çok sayıda endüstride hızla yaygın uygulamalar yaşıyor. Association for Computing Machinery tarafından 2022'de yayınlanan bir araştırma, Associated Press, Forbes, New York Times, Washington Post ve ProPublica gibi önde gelen medya şirketlerinin tüm makaleleri sıfırdan oluşturmak için yapay zeka kullandığını ortaya koydu. Bu içerik, suçlar, finansal piyasalar, siyaset, spor etkinlikleri ve dış ilişkiler hakkında haber yapmayı içerir.

Üretken yapay zeka, kullanıcı ve şirket tarafından oluşturulan içerikten devlet kurumları tarafından yazılan raporlara kadar farklı uygulamalar için metinler yazarken daha sık girdi olarak kullanılır. AI metni yazdığında, katılımı genellikle açıklanmaz. Bazıları, kötüye kullanım potansiyeli göz önüne alındığında, AI kullanıcılarının kullanımı konusunda şeffaf olması gerektiğini savundu. Aslında, 2020 Algoritmik Adalet ve Çevrimiçi Platform Şeffaflık Yasası tarafından önerildiği gibi, bu tür ifşalar büyük olasılıkla 2021'lerin sonunda yasalaşacaktır. 

Üretken yapay zeka ifşasının gerekli olduğu bir başka alan da reklamcılıktır. Journal of Advertising'de yayınlanan 2021 tarihli bir araştırma, reklamverenlerin veri analizi ve modifikasyonu yoluyla oluşturulan "sentetik reklamlar" oluşturmak için birçok işlemi otomatikleştirdiğini ortaya çıkardı. 

Reklamverenler, tüketicilerin ürünü satın almak istemeleri için reklamları daha kişiselleştirilmiş, rasyonel veya duygusal hale getirmek için genellikle manipülasyon taktikleri kullanır. Reklam manipülasyonu, rötuş, makyaj ve aydınlatma/açı gibi bir reklamda yapılan herhangi bir değişikliği içerir. Bununla birlikte, dijital manipülasyon uygulamaları o kadar şiddetli hale geldi ki, gençler arasında gerçekçi olmayan güzellik standartlarına ve vücut dismorfisine neden olabiliyor. Birleşik Krallık, Fransa ve Norveç gibi birçok ülke, reklam verenlerin ve etkileyicilerin içeriklerinin manipüle edilip edilmediğini açıkça belirtmelerini zorunlu kıldı.

Üretken algoritmaların çıkarımları

Üretken algoritmaların daha geniş etkileri şunları içerebilir: 

• Yazılım mühendisliği, avukatlar, müşteri hizmetleri temsilcileri, satış temsilcileri ve daha fazlası gibi çok sayıda beyaz yakalı meslek, düşük değerli iş sorumluluklarının artan otomasyonunu görecek. Bu otomasyon, ortalama çalışanın üretkenliğini artırırken, şirketlerin fazladan işe alma ihtiyacını azaltacaktır. Sonuç olarak, daha fazla şirket (özellikle küçük veya daha az yüksek profilli şirketler), işgücünün dünya çapında emeklilik patlaması nedeniyle azaldığı kritik bir dönemde yetenekli profesyonellere erişim sağlayacaktır.
• Üretken yapay zeka, fikir yazılarını ve düşünce liderliği makalelerini hayalet yazmak için kullanılıyor.
• Aynı hikayenin farklı açılarının aynı anda yazıldığı dijital versiyonlamayı kolaylaştırmak için üretken yapay zekanın artan kullanımı.
• Oyuncuların yaşını küçültmek veya ölenleri geri getirmek için reklamlarda ve filmlerde kullanılan Deepfake içeriği.
• Deepfake uygulamaları ve teknolojileri giderek daha erişilebilir ve düşük maliyetli hale geliyor ve daha fazla insanın propaganda ve dezenformasyona katılmasına olanak tanıyor.
• Şirketlerin yapay zeka tarafından üretilen içeriğin, karakterlerin, yazarların, ünlülerin ve etkileyicilerin kullanımını açıklamasını gerektiren daha fazla ülke.

Yorum yapılacak sorular

• Varsa, üretken yapay zeka sizin iş alanınızda nasıl kullanılıyor?
• Kitlesel içerik üretmek için yapay zeka kullanmanın diğer yararları ve tehlikeleri nelerdir?