Etičke smjernice u tehnologiji: Kada trgovina preuzme istraživanje

• Autor:
• Ime autora

  Quantumrun Foresight
• Februar 15, 2023

Sažetak uvida

Zbog potencijalnih opasnosti i algoritamske pristranosti koje sistemi umjetne inteligencije (AI) mogu nanijeti odabranim manjinskim grupama, mnoge savezne agencije i kompanije sve češće zahtijevaju od pružatelja tehnologije da objave etičke smjernice o tome kako razvijaju i primjenjuju AI. Međutim, primjena ovih smjernica u stvarnom životu je mnogo složenija i mutnija.

Kontekst sukoba etike

U Silicijumskoj dolini, preduzeća još uvek istražuju kako najbolje primeniti etičke principe u praksi, uključujući postavljanje pitanja „koliko košta davanje prioriteta etici?“ Dana 2. decembra 2020. Timnit Gebru, suvoditelj Google-ovog etičkog AI tima, objavila je tweet u kojem kaže da je otpuštena. Bila je široko cijenjena u zajednici umjetne inteligencije zbog svoje pristranosti i istraživanja prepoznavanja lica. Incident koji je doveo do njenog otpuštanja odnosio se na rad čiji je koautor, za koji je Google odlučio da ne ispunjava njihove standarde za objavljivanje. 

Međutim, Gebru i drugi tvrde da je otpuštanje motivirano odnosima s javnošću, a ne napretkom. Do smjene je došlo nakon što je Gebru doveo u pitanje naredbu da se ne objavi studija o tome kako umjetna inteligencija koja oponaša ljudski jezik može naštetiti marginaliziranoj populaciji. U februaru 2021, Gebruov koautor, Margaret Mitchell, također je otpuštena. 

Google je naveo da je Mitchell prekršio kodeks ponašanja i sigurnosne politike kompanije premještanjem elektronskih datoteka izvan kompanije. Mitchell nije precizirao razloge svoje smjene. Ovaj potez izazvao je lavinu kritika, što je navelo Google da do februara 2021. godine objavi promjene u svojoj politici raznolikosti i istraživanja. Ovaj incident je samo jedan primjer kako etički sukobi dijele velike tehnološke firme i njihova navodno objektivna istraživačka odjeljenja.

Ometajući uticaj

Prema Harvard Business Review-u, najveći izazov sa kojim se vlasnici preduzeća nalaze je pronalaženje ravnoteže između vanjskih pritisaka da se odgovori na etičke krize i internih zahtjeva njihovih kompanija i industrija. Eksterne kritike tjeraju kompanije da preispitaju svoju poslovnu praksu. Međutim, pritisci rukovodstva, konkurencije u industriji i općih tržišnih očekivanja o tome kako bi poduzeća trebala biti vođena ponekad mogu stvoriti kompenzacijske poticaje koji favoriziraju status quo. U skladu s tim, etički sukobi će se samo povećavati kako se kulturne norme budu razvijale i kako kompanije (posebno utjecajne tehnološke firme) nastavljaju pomicati granice novih poslovnih praksi koje mogu implementirati kako bi ostvarile nove prihode.

Još jedan primjer korporacija koje se bore sa ovom etičkom ravnotežom je kompanija Meta. Kako bi riješio svoje objavljene etičke nedostatke, Facebook je 2020. godine osnovao nezavisni nadzorni odbor, s ovlaštenjem da poništi odluke o moderiranju sadržaja, čak i one koje je donio osnivač Mark Zuckerberg. U januaru 2021. komitet je donio svoje prve odluke o spornom sadržaju i poništio većinu slučajeva koje je vidio. 

Međutim, s milijardama postova na Facebooku dnevno i nebrojenim brojem pritužbi na sadržaj, nadzorni odbor radi mnogo sporije od tradicionalnih vlada. Ipak, odbor je dao neke validne preporuke. Komisija je 2022. godine savjetovala Meta Platforms da suzbije incidente doxxinga objavljene na Facebooku zabranjujući korisnicima da dijele kućne adrese pojedinaca na platformama čak i ako su javno dostupne. Odbor je također zagovarao da Facebook otvori komunikacijski kanal kako bi transparentno objasnio zašto se kršenja dešavaju i kako se njima postupa.

Implikacije etičkih sukoba privatnog sektora

Šire implikacije etičkih sukoba u privatnom sektoru mogu uključivati: 

• Više kompanija gradi nezavisne etičke odbore kako bi nadgledali implementaciju etičkih smjernica u svojim poslovnim praksama.
• Pojačane kritike akademske zajednice o tome kako je komercijalizacija tehnološkog istraživanja dovela do upitnijih praksi i sistema.
• Sve veći odliv mozgova u javnom sektoru jer tehnološke firme love talentovane javne i univerzitetske istraživače veštačke inteligencije, nudeći znatne plate i beneficije.
• Vlade sve više zahtijevaju od svih firmi da objave svoje etičke smjernice bez obzira na to da li pružaju tehnološke usluge ili ne.
• Otvoreniji istraživači bivaju otpušteni iz velikih kompanija zbog sukoba interesa samo da bi bili brzo zamijenjeni.

Pitanja koja treba razmotriti

• Što mislite kako će etički sukobi utjecati na vrstu proizvoda i usluga koje potrošači dobijaju?
• Šta firme mogu učiniti kako bi osigurale transparentnost u svojim tehnološkim istraživanjima?