Garis panduan etika dalam teknologi: Apabila perdagangan mengambil alih penyelidikan

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Februari 15, 2023

Ringkasan cerapan

Oleh kerana potensi bahaya dan kecenderungan algoritma yang mungkin ditimbulkan oleh sistem kecerdasan buatan (AI) ke atas kumpulan minoriti terpilih, banyak agensi dan syarikat persekutuan semakin memerlukan penyedia teknologi untuk menerbitkan garis panduan etika tentang cara mereka membangunkan dan menggunakan AI. Walau bagaimanapun, menggunakan garis panduan ini dalam kehidupan sebenar adalah lebih kompleks dan keruh.

Konteks pertembungan etika

Di Silicon Valley, perniagaan masih meneroka cara terbaik untuk menerapkan prinsip etika ke dalam amalan, termasuk bertanya soalan, "berapa kos untuk mengutamakan etika?" Pada 2 Disember 2020, Timnit Gebru, ketua bersama pasukan AI beretika Google, menyiarkan tweet yang mengatakan dia telah dipecat. Dia dihormati secara meluas dalam komuniti AI untuk penyelidikan berat sebelah dan pengecaman mukanya. Insiden yang menyebabkan dia dipecat melibatkan kertas kerja yang dia tulis bersama yang diputuskan oleh Google tidak memenuhi piawaian penerbitan mereka. 

Bagaimanapun, Gebru dan yang lain berhujah bahawa pemecatan itu didorong oleh perhubungan awam dan bukannya kemajuan. Pemecatan itu berlaku selepas Gebru mempersoalkan perintah untuk tidak menerbitkan kajian tentang bagaimana AI yang meniru bahasa manusia boleh membahayakan populasi terpinggir. Pada Februari 2021, pengarang bersama Gebru, Margaret Mitchell, turut dipecat. 

Google menyatakan bahawa Mitchell melanggar kod kelakuan dan dasar keselamatan syarikat dengan memindahkan fail elektronik ke luar syarikat. Mitchell tidak mengulas lanjut mengenai alasan pemecatannya. Tindakan itu mencetuskan kritikan, menyebabkan Google mengumumkan perubahan kepada kepelbagaian dan dasar penyelidikannya menjelang Februari 2021. Insiden ini hanyalah satu contoh bagaimana pertembungan etika membahagikan firma teknologi besar dan jabatan penyelidikan mereka yang dikatakan objektif.

Kesan yang mengganggu

Menurut Kajian Perniagaan Harvard, cabaran terbesar yang dihadapi pemilik perniagaan ialah mencari keseimbangan antara tekanan luaran untuk bertindak balas terhadap krisis etika dan permintaan dalaman syarikat dan industri mereka. Kritikan luar mendorong syarikat untuk menilai semula amalan perniagaan mereka. Walau bagaimanapun, tekanan daripada pihak pengurusan, persaingan industri dan jangkaan pasaran umum tentang cara perniagaan harus dijalankan kadangkala boleh mewujudkan insentif balas yang memihak kepada status quo. Sehubungan itu, pertembungan etika hanya akan meningkat apabila norma budaya berkembang dan apabila syarikat (terutamanya firma teknologi yang berpengaruh) terus menolak sempadan amalan perniagaan baharu yang boleh mereka laksanakan untuk menjana pendapatan baharu.

Satu lagi contoh syarikat yang bergelut dengan keseimbangan etika ini ialah syarikat, Meta. Untuk menangani kelemahan etika yang dipublikasikan, Facebook menubuhkan lembaga pengawasan bebas pada tahun 2020, dengan kuasa untuk membatalkan keputusan penyederhanaan kandungan, walaupun yang dibuat oleh pengasas Mark Zuckerberg. Pada Januari 2021, jawatankuasa itu membuat keputusan pertama mengenai kandungan yang dipertikaikan dan membatalkan kebanyakan kes yang dilihatnya. 

Walau bagaimanapun, dengan berbilion-bilion siaran di Facebook setiap hari dan jumlah aduan kandungan yang tidak terhitung, lembaga pengawasan beroperasi jauh lebih perlahan daripada kerajaan tradisional. Walau bagaimanapun, lembaga telah membuat beberapa cadangan yang sah. Pada tahun 2022, panel itu menasihatkan Meta Platforms untuk membanteras insiden doxxing yang diterbitkan di Facebook dengan melarang pengguna daripada berkongsi alamat rumah individu di platform walaupun ia tersedia untuk umum. Lembaga itu juga menyarankan agar Facebook membuka saluran komunikasi untuk menerangkan secara telus mengapa pelanggaran berlaku dan cara ia dikendalikan.

Implikasi pertembungan etika sektor swasta

Implikasi yang lebih luas daripada pertembungan etika dalam sektor swasta mungkin termasuk: 

• Lebih banyak syarikat membina papan etika bebas untuk mengawasi pelaksanaan garis panduan etika dalam amalan perniagaan masing-masing.
• Peningkatan kritikan daripada ahli akademik tentang cara mengkomersialkan penyelidikan teknologi telah membawa kepada amalan dan sistem yang lebih dipersoalkan.
• Lebih banyak otak sektor awam merosot apabila firma teknologi mencari penyelidik AI awam dan universiti yang berbakat, menawarkan gaji dan faedah yang besar.
• Kerajaan semakin memerlukan semua firma untuk menerbitkan garis panduan etika mereka tanpa mengira sama ada mereka menyediakan perkhidmatan teknologi atau tidak.
• Lebih ramai penyelidik lantang dipecat daripada syarikat besar kerana konflik kepentingan hanya untuk diganti dengan cepat.

Soalan yang perlu dipertimbangkan

• Pada pendapat anda, bagaimanakah pertembungan etika akan menjejaskan jenis produk dan perkhidmatan yang diterima pengguna?
• Apakah yang boleh dilakukan oleh firma untuk memastikan ketelusan dalam penyelidikan teknologi mereka?