Pedoman etika dalam teknologi: Ketika perdagangan mengambil alih penelitian

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• Februari 15, 2023

Ringkasan wawasan

Karena potensi bahaya dan bias algoritmik yang dapat ditimbulkan oleh sistem kecerdasan buatan (AI) pada kelompok minoritas tertentu, banyak lembaga dan perusahaan federal semakin meminta penyedia teknologi untuk menerbitkan panduan etis tentang cara mereka mengembangkan dan menerapkan AI. Namun, menerapkan pedoman ini dalam kehidupan nyata jauh lebih rumit dan tidak jelas.

Konteks benturan etika

Di Silicon Valley, bisnis masih mengeksplorasi cara terbaik untuk menerapkan prinsip etika ke dalam praktik, termasuk mengajukan pertanyaan, “berapa biaya untuk memprioritaskan etika?” Pada tanggal 2 Desember 2020, Timnit Gebru, salah satu pimpinan tim AI etis Google, memposting tweet yang mengatakan bahwa dia telah dipecat. Dia dihormati secara luas di komunitas AI untuk penelitian bias dan pengenalan wajahnya. Insiden yang menyebabkan pemecatannya berkaitan dengan makalah yang dia tulis bersama yang menurut Google tidak memenuhi standar publikasi mereka. 

Namun, Gebru dan lainnya berpendapat bahwa pemecatan itu lebih dimotivasi oleh hubungan masyarakat daripada kemajuan. Pemecatan terjadi setelah Gebru mempertanyakan perintah untuk tidak menerbitkan studi tentang bagaimana AI yang meniru bahasa manusia dapat membahayakan populasi yang terpinggirkan. Pada Februari 2021, rekan penulis Gebru, Margaret Mitchell, juga dipecat. 

Google menyatakan bahwa Mitchell melanggar kode etik dan kebijakan keamanan perusahaan dengan memindahkan file elektronik ke luar perusahaan. Mitchell tidak merinci alasan pemecatannya. Langkah tersebut memicu banjir kritik, membuat Google mengumumkan perubahan pada kebijakan keragaman dan penelitiannya pada Februari 2021. Insiden ini hanyalah salah satu contoh bagaimana perselisihan etika memecah belah perusahaan teknologi besar dan departemen penelitian mereka yang seharusnya objektif.

Dampak yang mengganggu

Menurut Harvard Business Review, tantangan terbesar yang dihadapi pemilik bisnis adalah menemukan keseimbangan antara tekanan eksternal untuk merespons krisis etika dan tuntutan internal perusahaan dan industri mereka. Kritik eksternal mendorong perusahaan untuk mengevaluasi kembali praktik bisnis mereka. Namun, tekanan dari manajemen, persaingan industri, dan ekspektasi pasar secara umum tentang bagaimana bisnis harus dijalankan terkadang dapat menciptakan insentif penyeimbang yang mendukung status quo. Oleh karena itu, benturan etika hanya akan meningkat ketika norma budaya berkembang dan ketika perusahaan (terutama perusahaan teknologi yang berpengaruh) terus mendorong batasan pada praktik bisnis baru yang dapat mereka terapkan untuk menghasilkan pendapatan baru.

Contoh lain dari perusahaan yang berjuang dengan keseimbangan etika ini adalah perusahaan Meta. Untuk mengatasi kekurangan etika yang dipublikasikan, Facebook membentuk dewan pengawas independen pada tahun 2020, dengan kewenangan untuk membatalkan keputusan moderasi konten, bahkan keputusan yang dibuat oleh pendiri Mark Zuckerberg. Pada Januari 2021, komite membuat keputusan pertamanya tentang konten yang disengketakan dan membatalkan sebagian besar kasus yang ditanganinya. 

Namun, dengan miliaran posting di Facebook setiap hari dan jumlah keluhan konten yang tak terhitung, dewan pengawas beroperasi jauh lebih lambat daripada pemerintah tradisional. Meskipun demikian, dewan telah membuat beberapa rekomendasi yang valid. Pada tahun 2022, panel menyarankan Platform Meta untuk menindak insiden doxxing yang dipublikasikan di Facebook dengan melarang pengguna berbagi alamat rumah individu di platform meskipun tersedia untuk umum. Dewan juga menganjurkan agar Facebook membuka saluran komunikasi untuk menjelaskan secara transparan mengapa pelanggaran terjadi dan bagaimana penanganannya.

Implikasi benturan etika sektor swasta

Implikasi yang lebih luas dari benturan etika di sektor swasta dapat meliputi: 

• Lebih banyak perusahaan membangun dewan etika independen untuk mengawasi penerapan pedoman etika dalam praktik bisnis masing-masing.
• Kritik yang meningkat dari akademisi tentang bagaimana mengkomersialkan penelitian teknologi telah menyebabkan lebih banyak praktik dan sistem yang dipertanyakan.
• Lebih banyak menguras otak sektor publik karena perusahaan teknologi memburu peneliti AI publik dan universitas yang berbakat, menawarkan gaji dan tunjangan yang besar.
• Pemerintah semakin mewajibkan semua perusahaan untuk menerbitkan pedoman etika mereka terlepas dari apakah mereka menyediakan layanan teknologi atau tidak.
• Peneliti yang lebih blak-blakan dipecat dari perusahaan besar karena konflik kepentingan hanya untuk segera diganti.

Pertanyaan untuk dipertimbangkan

• Menurut Anda, bagaimana bentrokan etika akan memengaruhi jenis produk dan layanan yang diterima konsumen?
• Apa yang dapat dilakukan perusahaan untuk memastikan transparansi dalam penelitian teknologi mereka?