Tungtunan étika dina téhnologi: Nalika dagang nyokot alih panalungtikan

• Author:
• Ngaran pangarang

  Quantumrun tetempoan
• Pébruari 15, 2023

Ringkesan wawasan

Kusabab potensi bahaya sareng bias algoritmik anu tiasa ditimbulkeun ku sistem kecerdasan jieunan (AI) ka grup minoritas anu dipilih, seueur agénsi féderal sareng perusahaan beuki ngabutuhkeun panyadia téknologi pikeun nyebarkeun pedoman étika ngeunaan kumaha aranjeunna ngembangkeun sareng nyebarkeun AI. Nanging, ngalarapkeun pedoman ieu dina kahirupan nyata langkung rumit sareng murky.

Kontéks clash etika

Di Lembah Silicon, usaha masih ngajalajah kumaha cara anu pangsaéna pikeun nerapkeun prinsip etika kana prakték, kalebet naroskeun patarosan, "sabaraha biaya pikeun prioritas étika?" Dina 2 Désémber 2020, Timnit Gebru, ko-pamimpin tim AI etika Google, masangkeun tweet anu nyatakeun yén anjeunna dipecat. Anjeunna dimangfaatkeun sacara lega di komunitas AI pikeun panilitian bias sareng pangakuan raray. Kajadian anu nyababkeun anjeunna dipecat mangrupikeun makalah anu didamel ku anjeunna anu Google mutuskeun henteu nyumponan standar pikeun publikasi. 

Sanajan kitu, Gebru jeung nu lianna ngajawab yén firing ieu ngamotivasi ku humas tinimbang kamajuan. PHK lumangsung saatos Gebru naroskeun pesenan pikeun henteu nyebarkeun kajian ngeunaan kumaha AI anu niru basa manusa tiasa ngarugikeun populasi anu terpinggirkan. Dina Pébruari 2021, panulis ko-panulis Gebru, Margaret Mitchell, ogé dipecat. 

Google nyatakeun yén Mitchell ngalanggar kodeu etik perusahaan sareng kawijakan kaamanan ku cara mindahkeun file éléktronik ka luar perusahaan. Mitchell henteu ngajentrekeun alesan pikeun dipecat. Léngkah ieu nyababkeun kritik, ngarah Google ngumumkeun parobahan kana kabébasan sareng kabijakan panilitian ku Pébruari 2021. Kajadian ieu mangrupikeun conto kumaha bentrok étika ngabagi firma téknologi ageung sareng departemén panalungtikan anu disangka obyektif.

Dampak ngaganggu

Numutkeun kana Harvard Business Review, tangtangan pangbadagna anu disanghareupan ku pamilik usaha nyaéta milarian kasaimbangan antara tekanan éksternal pikeun ngaréspon krisis étika sareng tungtutan internal perusahaan sareng industrina. Kritik éksternal ngadorong perusahaan pikeun ngevaluasi deui prakték bisnisna. Sanajan kitu, tekanan ti manajemén, kompetisi industri jeung ekspektasi pasar umum kumaha usaha kudu ngajalankeun kadang bisa nyieun insentif countervailing nu ni'mat status quo. Sasuai, bentrok etika ngan bakal ningkat nalika norma budaya mekar sareng salaku perusahaan (khususna perusahaan téknologi pangaruh) teras-terasan nyorong wates-wates dina prakték bisnis novel anu tiasa dilaksanakeun pikeun ngahasilkeun pendapatan énggal.

Conto sanésna korporasi anu berjuang sareng kasaimbangan étika ieu nyaéta perusahaan, Meta. Pikeun ngabéréskeun kakurangan étika anu dipublikasikeun, Facebook nyetél dewan pangawasan mandiri dina 2020, kalayan wewenang pikeun ngabalikeun kaputusan moderasi kontén, bahkan anu dilakukeun ku pangadeg Mark Zuckerberg. Dina Januari 2021, panitia ngadamel kaputusan munggaran ngeunaan eusi anu dibantah sareng ngabalikeun kalolobaan kasus anu ditingali. 

Nanging, kalayan milyaran tulisan dina Facebook unggal dinten sareng sajumlah keluhan kontén anu teu kaétang, dewan pangawasan beroperasi langkung laun tibatan pamaréntahan tradisional. Sanajan kitu, dewan geus nyieun sababaraha saran valid. Dina 2022, panel naroskeun Meta Platforms pikeun némbak insiden doxxing anu diterbitkeun dina Facebook ku ngalarang pangguna ngabagi alamat bumi individu dina platform sanajan aranjeunna sayogi umum. Déwan ogé nyokong yén Facebook muka saluran komunikasi pikeun ngajelaskeun sacara transparan naha pelanggaran lumangsung sareng kumaha aranjeunna diurus.

Implikasi tina bentrok étika swasta

Implikasi anu langkung ageung tina bentrok étika di séktor swasta tiasa kalebet: 

• Langkung seueur perusahaan ngawangun dewan étika mandiri pikeun ngawas palaksanaan pedoman etika dina prakték bisnis masing-masing.
• Ngaronjatkeun kritik ti akademisi ngeunaan kumaha komersialisasi panalungtikan téknologi parantos nyababkeun prakték sareng sistem anu langkung dipertanyakeun.
• Langkung seueur otak sektor publik salaku perusahaan téknologi milarian peneliti AI publik sareng universitas anu berbakat, nawiskeun gaji sareng kauntungan anu ageung.
• Pamaréntah beuki meryogikeun sadaya firma pikeun nyebarkeun pedoman etikana henteu paduli naha aranjeunna nyayogikeun jasa téknologi atanapi henteu.
• Langkung peneliti outspoken dipecat ti pausahaan badag alatan bentrok dipikaresep ngan bisa gancang diganti.

Patarosan anu kedah diperhatoskeun

• Kumaha saur anjeun bentrok étika bakal mangaruhan jinis produk sareng jasa anu ditampi ku konsumen?
• Naon anu tiasa dilakukeun ku perusahaan pikeun mastikeun transparansi dina panalungtikan téknologi?