Mga alituntunin sa etika sa teknolohiya: Kapag kinuha ng commerce ang pananaliksik

• May-akda:
• pangalan Author

  Quantumrun Foresight
• Pebrero 15, 2023

Buod ng pananaw

Dahil sa mga potensyal na panganib at algorithmic bias na maaaring idulot ng mga artificial intelligence (AI) system sa mga piling grupo ng minorya, maraming ahensya at kumpanyang pederal ang higit na nangangailangan ng mga tech provider na mag-publish ng mga etikal na alituntunin sa kung paano sila bumubuo at nagde-deploy ng AI. Gayunpaman, ang paglalapat ng mga alituntuning ito sa totoong buhay ay mas kumplikado at malabo.

Konteksto ng pagsalungat sa etika

Sa Silicon Valley, tinutuklasan pa rin ng mga negosyo kung paano pinakamahusay na mailapat ang mga prinsipyong etikal sa pagsasanay, kabilang ang pagtatanong ng tanong na, "magkano ang gastos upang unahin ang etika?" Noong Disyembre 2, 2020, si Timnit Gebru, co-lead ng Google's ethical AI team, ay nag-post ng tweet na nagsasabing siya ay tinanggal. Siya ay malawak na iginagalang sa komunidad ng AI para sa kanyang bias at pananaliksik sa pagkilala sa mukha. Ang insidente na humantong sa kanyang pagpapaalis ay nag-aalala sa isang papel na kasama niyang isinulat na napagpasyahan ng Google na hindi nakakatugon sa kanilang mga pamantayan para sa paglalathala. 

Gayunpaman, pinagtatalunan ni Gebru at ng iba pa na ang pagpapaputok ay udyok ng mga relasyon sa publiko kaysa sa pag-unlad. Naganap ang pagpapaalis pagkatapos tanungin ni Gebru ang isang utos na huwag mag-publish ng pag-aaral kung paano maaaring makapinsala sa mga marginalized na populasyon ang AI na ginagaya ang wika ng tao. Noong Pebrero 2021, tinanggal din ang co-author ni Gebru na si Margaret Mitchell. 

Sinabi ng Google na nilabag ni Mitchell ang code of conduct at mga patakaran sa seguridad ng kumpanya sa pamamagitan ng paglipat ng mga electronic file sa labas ng kumpanya. Hindi na nagdetalye si Mitchell sa dahilan ng kanyang pagkakatanggal sa trabaho. Ang hakbang ay nagdulot ng matinding kritisismo, na humantong sa Google na mag-anunsyo ng mga pagbabago sa pagkakaiba-iba nito at mga patakaran sa pagsasaliksik pagsapit ng Pebrero 2021. Ang insidenteng ito ay isa lamang halimbawa kung paano pinaghahati-hati ng etika ang malalaking tech firm at ang kanilang mga diumano'y layuning departamento ng pananaliksik.

Nakakagambalang epekto

Ayon sa Harvard Business Review, ang pinakamalaking hamon na kinakaharap ng mga may-ari ng negosyo ay ang paghahanap ng balanse sa pagitan ng mga panlabas na panggigipit upang tumugon sa mga krisis sa etika at ang mga panloob na pangangailangan ng kanilang mga kumpanya at industriya. Ang mga panlabas na kritisismo ay nagtutulak sa mga kumpanya na muling suriin ang kanilang mga kasanayan sa negosyo. Gayunpaman, ang mga panggigipit mula sa pamamahala, kumpetisyon sa industriya at pangkalahatang mga inaasahan sa merkado kung paano dapat patakbuhin ang mga negosyo ay minsan ay maaaring lumikha ng mga countervailing na insentibo na pumapabor sa status quo. Alinsunod dito, tataas lamang ang mga salungatan sa etika habang umuusbong ang mga kultural na kaugalian at habang ang mga kumpanya (lalo na ang mga maimpluwensyang tech firm) ay patuloy na nagtutulak ng mga hangganan sa mga bagong kasanayan sa negosyo na maaari nilang ipatupad upang makabuo ng mga bagong kita.

Ang isa pang halimbawa ng mga korporasyon na nakikipaglaban sa etikal na balanseng ito ay ang kumpanya, Meta. Upang matugunan ang naisapubliko nitong mga pagkukulang sa etika, nag-set up ang Facebook ng isang independiyenteng oversight board noong 2020, na may awtoridad na bawiin ang mga desisyon sa pagmo-moderate ng content, maging ang mga ginawa ng founder na si Mark Zuckerberg. Noong Enero 2021, ginawa ng komite ang mga unang desisyon nito sa pinagtatalunang nilalaman at binawi ang karamihan sa mga kaso na nakita nito. 

Gayunpaman, sa bilyun-bilyong mga post sa Facebook araw-araw at hindi mabilang na bilang ng mga reklamo sa nilalaman, ang oversight board ay tumatakbo nang mas mabagal kaysa sa mga tradisyonal na pamahalaan. Gayunpaman, ang lupon ay gumawa ng ilang wastong rekomendasyon. Noong 2022, pinayuhan ng panel ang Meta Platforms na sugpuin ang mga insidente ng doxxing na na-publish sa Facebook sa pamamagitan ng pagbabawal sa mga user na ibahagi ang mga address ng tahanan ng mga indibidwal sa mga platform kahit na available ang mga ito sa publiko. Iminungkahi din ng board na magbukas ang Facebook ng channel ng komunikasyon para malinaw na ipaliwanag kung bakit nangyayari ang mga paglabag at kung paano pinangangasiwaan ang mga ito.

Mga implikasyon ng mga salungatan sa etika ng pribadong sektor

Ang mas malawak na implikasyon ng mga salungatan sa etika sa pribadong sektor ay maaaring kabilang ang: 

• Mas maraming kumpanya ang nagtatayo ng mga independent ethics boards para pangasiwaan ang pagpapatupad ng mga etikal na alituntunin sa kani-kanilang mga kasanayan sa negosyo.
• Dumami ang mga kritisismo mula sa akademya kung paano humantong sa mas maraming kaduda-dudang mga kasanayan at sistema ang pagkokomersyal ng tech na pananaliksik.
• Mas maraming pampublikong sektor ang brain drain habang ang mga tech firm ay naghahanap ng mga mahuhusay na public at university AI researcher, na nag-aalok ng malaking suweldo at benepisyo.
• Ang mga pamahalaan ay lalong nag-aatas sa lahat ng mga kumpanya na i-publish ang kanilang mga etikal na alituntunin hindi alintana kung sila ay nagbibigay ng mga serbisyo sa teknolohiya o hindi.
• Higit pang mga tahasang mananaliksik na tinanggal mula sa malalaking kumpanya dahil sa mga salungatan ng interes upang mabilis na mapalitan.

Mga katanungang dapat isaalang-alang

• Sa palagay mo, paano makakaapekto ang mga pag-aaway sa etika sa uri ng mga produkto at serbisyo na natatanggap ng mga mamimili?
• Ano ang maaaring gawin ng mga kumpanya upang matiyak ang transparency sa kanilang tech research?