Bias kecerdasan jieunan: Mesin henteu obyektif sakumaha anu urang ngarepkeun

• Author:
• Ngaran pangarang

  Quantumrun tetempoan
• Pébruari 8, 2022

Ringkesan wawasan

Bari téknologi data-disetir nyekel jangji ngabina masarakat adil, aranjeunna mindeng ngagambarkeun biases sarua yén manusa Harbour, ngarah kana injustices poténsial. Salaku conto, bias dina sistem kecerdasan jieunan (AI) sacara teu kahaja tiasa ngaburukkeun stereotip anu ngabahayakeun. Nanging, usaha-usaha dijalankeun pikeun ngajantenkeun sistem AI langkung adil, sanaos ieu nyababkeun patarosan rumit ngeunaan kasaimbangan antara utilitas sareng kaadilan, sareng kabutuhan pangaturan anu wijaksana sareng karagaman dina tim téknologi.

AI bias konteks umum

Harepan éta téknologi anu didorong ku data bakal ngabantosan umat manusa dina ngadegkeun masarakat dimana kaadilan mangrupikeun norma pikeun sadayana. Sanajan kitu, kanyataanana ayeuna cet gambar béda. Seueur bias anu dipiboga ku manusa, anu nyababkeun kateuadilan dina jaman baheula, ayeuna dicerminkeun dina algoritma anu ngatur dunya digital urang. Bias ieu dina sistem AI sering timbul tina prasangka individu anu ngembangkeun sistem ieu, sareng bias ieu sering nyerep kana padamelan na.

Candak, contona, hiji proyék di 2012 katelah ImageNet, nu narékahan pikeun crowdsource panyiri gambar pikeun latihan sistem learning mesin. Jaringan saraf ageung anu dilatih dina data ieu salajengna tiasa ngaidentipikasi objék kalayan akurasi anu pikaresepeun. Nanging, saatos pamariksaan anu langkung caket, peneliti mendakan bias anu disumputkeun dina data ImageNet. Dina hiji hal nu tangtu, hiji algoritma dilatih dina data ieu bias kana asumsi yén sakabéh programer software nu lalaki bodas.

bias ieu berpotensi ngakibatkeun awéwé keur overlooked pikeun kalungguhan sapertos nalika prosés Ngiring otomatis. The biases kapanggih jalan kana susunan data sabab individu nambahkeun labél kana gambar "awéwé" kaasup labél tambahan nu diwangun ku istilah derogatory. Conto ieu ngagambarkeun kumaha bias, naha dihaja atanapi teu dihaja, tiasa nyusup bahkan sistem AI anu paling canggih, berpotensi ngalanggengkeun stereotip sareng kateusaruaan anu ngabahayakeun.

Dampak ngaganggu 

Usaha pikeun ngabéréskeun bias dina data sareng algoritma parantos diprakarsai ku panalungtik dina sagala rupa organisasi umum sareng swasta. Dina kasus proyék ImageNet, contona, crowdsourcing dianggo pikeun ngaidentipikasi sareng ngaleungitkeun istilah panyiri anu matak ngahinakeun kana gambar-gambar anu tangtu. Ukuran ieu nunjukkeun yén memang mungkin pikeun ngonpigurasikeun sistem AI janten langkung adil.

Tapi, sababaraha ahli ngabantah yén ngaleungitkeun bias berpotensi nyababkeun set data kirang efektif, khususna nalika sababaraha bias nuju dimaénkeun. Hiji set data dilucuti tina biases tangtu bisa mungkas nepi kurang informasi cukup pikeun pamakéan éféktif. Ieu raises sual naon susunan data gambar sabenerna rupa-rupa bakal kasampak kawas, sarta kumaha eta bisa dipaké tanpa compromising utiliti na.

Tren ieu negeskeun kabutuhan pendekatan anu bijaksana pikeun ngagunakeun AI sareng téknologi anu didorong ku data. Pikeun perusahaan, ieu tiasa hartosna investasi dina alat deteksi bias sareng promosi karagaman dina tim téknologi. Pikeun pamaréntah, éta tiasa ngalibatkeun palaksanaan peraturan pikeun mastikeun panggunaan AI anu adil. 

Implikasi tina bias AI

Implikasi anu langkung ageung tina bias AI tiasa kalebet:

• Organisasi anu proaktif dina mastikeun kaadilan sareng non-diskriminasi nalika aranjeunna ngungkit AI pikeun ningkatkeun produktivitas sareng kinerja. 
• Gaduh étika AI dina tim pamekaran pikeun ngadeteksi sareng ngirangan résiko étika dina awal hiji proyék. 
• Ngarancang produk AI kalayan faktor keragaman sapertos gender, ras, kelas, sareng budaya jelas dina pikiran.
• Kéngingkeun wawakil ti sababaraha grup anu bakal ngagunakeun produk AI perusahaan pikeun nguji éta sateuacan dileupaskeun.
• Rupa-rupa palayanan umum dibatesan ku sababaraha anggota masarakat.
• Sababaraha anggota masarakat henteu tiasa ngaksés atanapi cocog pikeun kasempetan padamelan anu tangtu.
• Agénsi penegak hukum jeung profésional unfairly targeting anggota masarakat tangtu leuwih ti batur. 

Patarosan anu kedah diperhatoskeun

• Naha anjeun optimis yén kaputusan otomatis bakal adil di hareup?
• Kumaha upami AI nyieun kaputusan ngajadikeun anjeun paling gugup?