Teknolojide etik yönergeler: Ticaret araştırmayı devraldığında

• Yazar:
• Yazar adı

  Kuantumrun Öngörüsü
• Şubat 15, 2023

Analiz özeti

Yapay zeka (AI) sistemlerinin belirli azınlık gruplarına verebileceği potansiyel tehlikeler ve algoritmik önyargı nedeniyle, birçok federal kurum ve şirket, teknoloji sağlayıcılarının yapay zekayı nasıl geliştirip dağıttıklarına ilişkin etik yönergeler yayınlamasını giderek daha fazla şart koşuyor. Ancak, bu yönergeleri gerçek hayatta uygulamak çok daha karmaşık ve belirsizdir.

Etik çatışma bağlamı

Silikon Vadisi'nde işletmeler, "etike öncelik vermenin maliyeti nedir?" 2 Aralık 2020'de Google'ın etik yapay zeka ekibinin eş başkanı Timnit Gebru, kovulduğunu belirten bir tweet attı. Önyargısı ve yüz tanıma araştırması nedeniyle AI topluluğunda geniş çapta saygı görüyordu. İşten çıkarılmasına yol açan olay, ortak yazdığı ve Google'ın yayın standartlarını karşılamadığına karar verdiği bir makaleyle ilgiliydi. 

Ancak Gebru ve diğerleri, kovulmanın ilerlemeden çok halkla ilişkiler tarafından motive edildiğini iddia ediyor. İşten çıkarma, Gebru'nun insan dilini taklit eden yapay zekanın marjinalize edilmiş topluluklara nasıl zarar verebileceğine dair bir çalışmanın yayınlanmaması emrini sorgulamasının ardından gerçekleşti. Şubat 2021'de Gebru'nun ortak yazarı Margaret Mitchell de kovuldu. 

Google, Mitchell'in elektronik dosyaları şirket dışına taşıyarak şirketin davranış kurallarını ve güvenlik politikalarını çiğnediğini belirtti. Mitchell, görevden alınmasının gerekçelerini ayrıntılı olarak açıklamadı. Hareket, bir eleştiri çığını ateşledi ve Google'ın çeşitlilik ve araştırma politikalarındaki değişiklikleri Şubat 2021'e kadar duyurmasına yol açtı. Bu olay, etik çatışmaların büyük teknoloji firmaları ile onların sözde tarafsız araştırma departmanlarını nasıl böldüğünün yalnızca bir örneği.

Yıkıcı etki

Harvard Business Review'a göre, işletme sahiplerinin karşılaştığı en büyük zorluk, etik krizlere yanıt vermeye yönelik dış baskılar ile şirketlerinin ve sektörlerinin iç talepleri arasında bir denge bulmaktır. Dış eleştiriler, şirketleri iş uygulamalarını yeniden değerlendirmeye itiyor. Ancak, yönetimin baskıları, endüstri rekabeti ve işlerin nasıl yürütülmesi gerektiğine dair genel piyasa beklentileri bazen statükoyu destekleyen telafi edici teşvikler yaratabilir. Buna göre, etik çatışmalar yalnızca kültürel normlar geliştikçe ve şirketler (özellikle etkili teknoloji firmaları) yeni gelirler elde etmek için uygulayabilecekleri yeni iş uygulamalarında sınırları zorlamaya devam ettikçe artacaktır.

Bu etik dengeyle mücadele eden şirketlere bir başka örnek de Meta şirketidir. Facebook, kamuoyuna duyurulan etik eksikliklerini gidermek için 2020'de, kurucu Mark Zuckerberg tarafından alınanlar da dahil olmak üzere içerik denetleme kararlarını bozma yetkisine sahip bağımsız bir gözetim kurulu kurdu. Komite, Ocak 2021'de tartışmalı içeriklerle ilgili ilk kararlarını verdi ve gördüğü davaların çoğunu bozdu. 

Bununla birlikte, Facebook'ta her gün milyarlarca gönderi ve anlatılmamış sayıda içerik şikayetiyle, gözetim kurulu geleneksel hükümetlerden çok daha yavaş çalışıyor. Bununla birlikte, yönetim kurulu bazı geçerli önerilerde bulunmuştur. Panel, 2022'de Meta Platformlarına, Facebook'ta yayınlanan doxxing olaylarını, kullanıcıların halka açık olsalar bile platformlarda bireylerin ev adreslerini paylaşmalarını yasaklayarak bastırmalarını tavsiye etti. Kurul ayrıca, Facebook'un ihlallerin neden meydana geldiğini ve nasıl ele alındığını şeffaf bir şekilde açıklamak için bir iletişim kanalı açmasını savundu.

Özel sektör etik çatışmalarının sonuçları

Özel sektördeki etik çatışmaların daha geniş sonuçları şunları içerebilir: 

• Daha fazla şirket, ilgili iş uygulamalarında etik yönergelerin uygulanmasını denetlemek için bağımsız etik kurulları kuruyor.
• Teknoloji araştırmalarının ticarileştirilmesinin nasıl daha sorgulanabilir uygulamalara ve sistemlere yol açtığına dair akademiden artan eleştiriler.
• Teknoloji firmaları yetenekli kamu ve üniversite yapay zeka araştırmacılarını avlayarak önemli maaşlar ve yan haklar sunarken daha fazla kamu sektörü beyin göçü.
• Hükümetler, teknoloji hizmetleri sağlayıp sağlamadıklarına bakılmaksızın tüm firmalardan etik kılavuzlarını yayınlamalarını giderek daha fazla talep ediyor.
• Çıkar çatışmaları nedeniyle büyük şirketlerden kovulan daha fazla sayıda araştırmacı, ancak hızla değiştirilecek.

Dikkate alınması gereken sorular

• Etik çatışmalarının tüketicilerin aldığı ürün ve hizmetleri nasıl etkileyeceğini düşünüyorsunuz?
• Firmalar teknoloji araştırmalarında şeffaflığı sağlamak için ne yapabilir?