Etičke smjernice u tehnologiji: Kad trgovina preuzme istraživanje

• Autor:
• ime autora

  Quantumrun Foresight
• Veljače 15, 2023

Sažetak uvida

Zbog potencijalnih opasnosti i algoritamskih pristranosti koje sustavi umjetne inteligencije (AI) mogu nanijeti odabranim manjinskim skupinama, mnoge federalne agencije i tvrtke sve više zahtijevaju od dobavljača tehnologije da objave etičke smjernice o tome kako razvijaju i implementiraju AI. Međutim, primjena ovih smjernica u stvarnom životu mnogo je složenija i mutnija.

Kontekst sukoba etike

U Silicijskoj dolini tvrtke još uvijek istražuju kako najbolje primijeniti etička načela u praksi, uključujući postavljanje pitanja "koliko košta davanje etike prioritetu?" Dana 2. prosinca 2020., Timnit Gebru, suvoditeljica Googleovog tima za etičku umjetnu inteligenciju, objavila je tweet u kojem kaže da je otpuštena. Bila je vrlo cijenjena u AI zajednici zbog svoje pristranosti i istraživanja prepoznavanja lica. Incident koji je doveo do njezinog otkaza odnosio se na rad čiji je koautorica Google zaključio da ne zadovoljava njihove standarde za objavljivanje. 

Međutim, Gebru i drugi tvrde da je otpuštanje motivirano odnosima s javnošću, a ne napretkom. Otkaz se dogodio nakon što je Gebru doveo u pitanje naredbu da se ne objavi studija o tome kako umjetna inteligencija koja oponaša ljudski jezik može naštetiti marginaliziranoj populaciji. U veljači 2021. otpuštena je i Gebruova koautorica, Margaret Mitchell. 

Google je izjavio da je Mitchell prekršio kodeks ponašanja i sigurnosnu politiku tvrtke premještanjem elektroničkih datoteka izvan tvrtke. Mitchell nije razjasnio razloge njezinog otkaza. Taj je potez izazvao lavinu kritika, zbog čega je Google najavio promjene svojih politika o raznolikosti i istraživanju do veljače 2021. Ovaj je incident samo jedan primjer kako etički sukobi dijele velike tehnološke tvrtke i njihove navodno objektivne istraživačke odjele.

Razarajući učinak

Prema Harvard Business Reviewu, najveći izazov s kojim se vlasnici poduzeća susreću jest pronaći ravnotežu između vanjskih pritisaka da odgovore na etičke krize i unutarnjih zahtjeva svojih tvrtki i industrija. Vanjske kritike tjeraju tvrtke na preispitivanje svoje poslovne prakse. Međutim, pritisci menadžmenta, konkurencije u industriji i općih tržišnih očekivanja o tome kako bi se poduzeća trebala voditi ponekad mogu stvoriti kompenzirajuće poticaje koji pogoduju statusu quo. Sukladno tome, etički sukobi samo će se povećavati kako se kulturne norme budu razvijale i kako će tvrtke (osobito utjecajne tehnološke tvrtke) nastaviti pomicati granice novih poslovnih praksi koje mogu primijeniti kako bi generirale nove prihode.

Još jedan primjer korporacija koje se bore s ovom etičkom ravnotežom je tvrtka Meta. Kako bi riješio svoje javno objavljene etičke nedostatke, Facebook je 2020. godine uspostavio neovisni nadzorni odbor s ovlastima poništavanja odluka o moderiranju sadržaja, čak i onih koje je donio osnivač Mark Zuckerberg. U siječnju 2021. odbor je donio svoje prve odluke o spornom sadržaju i poništio većinu slučajeva koje je vidio. 

Međutim, s milijardama objava na Facebooku dnevno i neopisivim brojem pritužbi na sadržaj, nadzorni odbor radi mnogo sporije od tradicionalnih vlada. Unatoč tome, odbor je dao neke valjane preporuke. Panel je 2022. savjetovao Meta Platforms da suzbije incidente doxxinga objavljene na Facebooku zabranjujući korisnicima dijeljenje kućnih adresa pojedinaca na platformama čak i ako su javno dostupne. Odbor se također založio da Facebook otvori komunikacijski kanal kako bi transparentno objasnio zašto dolazi do kršenja i kako se s njima postupa.

Posljedice etičkih sukoba u privatnom sektoru

Šire implikacije etičkih sukoba u privatnom sektoru mogu uključivati: 

• Sve više tvrtki gradi neovisne etičke odbore za nadzor provedbe etičkih smjernica u svojim poslovnim praksama.
• Pojačane kritike iz akademske zajednice o tome kako je komercijalizacija tehnološkog istraživanja dovela do upitnijih praksi i sustava.
• Više odljeva mozgova iz javnog sektora jer tehnološke tvrtke traže talentirane javne i sveučilišne istraživače umjetne inteligencije, nudeći značajne plaće i beneficije.
• Vlade sve više zahtijevaju od svih tvrtki da objave svoje etičke smjernice bez obzira na to pružaju li tehnološke usluge ili ne.
• Otvoreniji istraživači bivaju otpušteni iz velikih tvrtki zbog sukoba interesa da bi bili brzo zamijenjeni.

Pitanja za razmatranje

• Što mislite kako će etički sukobi utjecati na vrstu proizvoda i usluga koje potrošači dobivaju?
• Što tvrtke mogu učiniti kako bi osigurale transparentnost u svojim tehnološkim istraživanjima?