Pedoman etika ing teknologi: Nalika dagang njupuk alih riset

• Babagan Author:
• Jeneng panganggit

  Quantumrun Foresight
• Februari 15, 2023

Ringkesan wawasan

Amarga bebaya potensial lan bias algoritmik sing bisa ditindakake dening sistem intelijen buatan (AI) marang klompok minoritas sing dipilih, akeh agensi lan perusahaan federal sing mbutuhake panyedhiya teknologi kanggo nerbitake pedoman etika babagan cara ngembangake lan nggunakake AI. Nanging, ngetrapake pedoman kasebut ing urip nyata luwih rumit lan surem.

Konteks benturan etika

Ing Silicon Valley, bisnis isih njelajah cara paling apik kanggo ngetrapake prinsip etika ing praktik, kalebu takon pitakonan, "pira regane kanggo prioritas etika?" Tanggal 2 Desember 2020, Timnit Gebru, pimpinan tim AI etika Google, ngirim tweet sing nyatakake dheweke wis dipecat. Dheweke dihormati ing komunitas AI amarga bias lan riset pangenalan rai. Kedadeyan sing njalari dheweke dipecat ana gegayutan karo makalah sing wis ditulis bareng Google sing mutusake ora cocog karo standar publikasi. 

Nanging, Gebru lan liya-liyane mbantah manawa pemecatan kasebut didorong dening hubungan masyarakat tinimbang kemajuan. Pemecatan kasebut kedadeyan sawise Gebru takon pesen supaya ora nerbitake panaliten babagan carane AI sing niru basa manungsa bisa ngrusak populasi sing terpinggirkan. Ing Februari 2021, penulis bareng Gebru, Margaret Mitchell, uga dipecat. 

Google nyatakake yen Mitchell nglanggar kode etik lan kabijakan keamanan perusahaan kanthi mindhah file elektronik ing njaba perusahaan. Mitchell ora njlentrehake babagan alasan dheweke dipecat. Pamindhahan kasebut nyebabake kritik, ndadékaké Google ngumumake owah-owahan ing keragaman lan kabijakan riset ing Februari 2021. Kedadeyan iki mung minangka salah sawijining conto babagan konflik etika sing misahake perusahaan teknologi gedhe lan departemen riset sing dianggep objektif.

Dampak gangguan

Miturut Harvard Business Review, tantangan paling gedhe sing diadhepi para pamilik bisnis yaiku nemokake keseimbangan antarane tekanan eksternal kanggo nanggapi krisis etika lan panjaluk internal perusahaan lan industri. Kritik eksternal nyurung perusahaan kanggo ngevaluasi maneh praktik bisnis. Nanging, tekanan saka manajemen, kompetisi industri lan pangarepan pasar umum babagan carane bisnis kudu ditindakake kadhangkala bisa nggawe insentif countervailing sing milih status quo. Patut, bentrokan etika mung bakal mundhak nalika norma budaya berkembang lan minangka perusahaan (utamane perusahaan teknologi sing duwe pengaruh) terus mbatesi watesan babagan praktik bisnis novel sing bisa ditindakake kanggo ngasilake bathi anyar.

Conto liyane saka perusahaan sing berjuang karo keseimbangan etika iki yaiku perusahaan, Meta. Kanggo ngatasi kekurangan etika sing diumumake, Facebook nyiyapake dewan pengawasan independen ing taun 2020, kanthi wewenang kanggo mbatalake keputusan moderasi konten, sanajan sing digawe dening pangadeg Mark Zuckerberg. Ing Januari 2021, panitia nggawe keputusan pisanan babagan konten sing disengketakan lan mbatalake umume kasus sing dideleng. 

Nanging, kanthi milyaran kiriman ing Facebook saben dina lan jumlah keluhan konten sing ora bisa dicritakake, dewan pengawas luwih alon tinimbang pamrentah tradisional. Nanging, dewan wis nggawe sawetara rekomendasi sing sah. Ing taun 2022, panel kasebut menehi saran marang Meta Platforms supaya ngilangi kedadeyan doxxing sing diterbitake ing Facebook kanthi nglarang pangguna nuduhake alamat omah individu ing platform sanajan kasedhiya kanggo umum. Papan kasebut uga nyengkuyung supaya Facebook mbukak saluran komunikasi kanggo nerangake kanthi jelas kenapa pelanggaran lan cara ditangani.

Implikasi saka bentrokan etika sektor swasta

Implikasi sing luwih akeh saka bentrokan etika ing sektor swasta bisa uga kalebu: 

• Luwih akeh perusahaan mbangun papan etika independen kanggo ngawasi implementasine pedoman etika ing praktik bisnis masing-masing.
• Nambah kritik saka akademisi babagan carane komersialisasi riset teknologi nyebabake praktik lan sistem sing luwih bisa dipertanyakan.
• Luwih akeh saluran otak sektor publik amarga perusahaan teknologi nggoleki peneliti AI umum lan universitas sing duwe bakat, menehi gaji lan tunjangan sing akeh.
• Pamrentah tambah akeh mbutuhake kabeh perusahaan nerbitake pedoman etika, ora preduli manawa menehi layanan teknologi utawa ora.
• Peneliti sing luwih blak-blakan dipecat saka perusahaan gedhe amarga konflik kepentingan mung bakal diganti kanthi cepet.

Pitakon sing kudu dipikirake

• Kepiye carane bentrokan etika bakal mengaruhi jinis produk lan layanan sing ditampa konsumen?
• Apa sing bisa ditindakake perusahaan kanggo njamin transparansi ing riset teknologi?