Etične smernice v tehnologiji: Ko trgovina prevzame raziskovanje

• Avtor:
• ime avtorja

  Quantumrun Foresight
• Februar 15, 2023

Povzetek vpogleda

Zaradi potencialnih nevarnosti in algoritemskih pristranskosti, ki jih lahko sistemi umetne inteligence (AI) povzročijo izbranim manjšinskim skupinam, številne zvezne agencije in podjetja vse pogosteje zahtevajo od ponudnikov tehnologije, da objavijo etične smernice o tem, kako razvijajo in uvajajo AI. Vendar pa je uporaba teh smernic v resničnem življenju veliko bolj zapletena in nejasna.

Kontekst spopada etike

V Silicijevi dolini podjetja še vedno raziskujejo, kako najbolje uporabiti etična načela v praksi, vključno s postavljanjem vprašanja, "koliko stane dajanje prednosti etiki?" 2. decembra 2020 je Timnit Gebru, sovodja Googlove ekipe za etično umetno inteligenco, objavila tvit, v katerem je povedala, da je bila odpuščena. V skupnosti umetne inteligence je bila zelo spoštovana zaradi svoje pristranskosti in raziskav prepoznavanja obraza. Incident, zaradi katerega je bila odpuščena, se je nanašal na članek, katerega soavtorica je bila, za katerega se je Google odločil, da ne ustreza njihovim standardom za objavo. 

Vendar Gebru in drugi trdijo, da so odpuščanje motivirali odnosi z javnostjo in ne napredek. Do odpustitve je prišlo, potem ko je Gebru dvomil o odredbi, da se ne objavi študije o tem, kako lahko umetna inteligenca, ki posnema človeški jezik, škoduje marginaliziranim prebivalstvom. Februarja 2021 je bila odpuščena tudi Gebrujeva soavtorica Margaret Mitchell. 

Google je izjavil, da je Mitchell kršil kodeks ravnanja in varnostno politiko podjetja s premikanjem elektronskih datotek izven podjetja. Mitchell ni navedel razlogov za svojo odpustitev. Ta poteza je sprožila plaz kritik, zaradi česar je Google napovedal spremembe svoje politike o raznolikosti in raziskavah do februarja 2021. Ta incident je le en primer, kako etični spopadi razdvajajo velika tehnološka podjetja in njihove domnevno objektivne raziskovalne oddelke.

Moteč vpliv

Glede na Harvard Business Review je največji izziv, s katerim se srečujejo lastniki podjetij, iskanje ravnovesja med zunanjimi pritiski, da se odzovejo na etične krize, in notranjimi zahtevami njihovih podjetij in panog. Zunanje kritike podjetja silijo k ponovnemu ovrednotenju svojih poslovnih praks. Vendar pa lahko pritiski vodstva, konkurence v panogi in splošnih tržnih pričakovanj o tem, kako naj se vodijo podjetja, včasih ustvarijo izravnalne spodbude, ki podpirajo status quo. Skladno s tem se bodo etični spopadi samo povečevali, ko se bodo razvijale kulturne norme in ko bodo podjetja (zlasti vplivna tehnološka podjetja) še naprej premikala meje glede novih poslovnih praks, ki jih lahko izvajajo za ustvarjanje novih prihodkov.

Drug primer korporacij, ki se spopadajo s tem etičnim ravnovesjem, je podjetje Meta. Da bi obravnaval svoje javno objavljene etične pomanjkljivosti, je Facebook leta 2020 ustanovil neodvisen nadzorni odbor s pooblastili za razveljavitev odločitev o moderiranju vsebine, tudi tistih, ki jih je sprejel ustanovitelj Mark Zuckerberg. Januarja 2021 je odbor sprejel svoje prve odločitve o sporni vsebini in razveljavil večino obravnavanih primerov. 

Vendar z milijardami objav na Facebooku dnevno in neizmernim številom pritožb glede vsebine nadzorni odbor deluje veliko počasneje kot tradicionalne vlade. Kljub temu je odbor dal nekaj veljavnih priporočil. Leta 2022 je odbor svetoval Meta Platforms, naj zatre incidente doxxinga, objavljene na Facebooku, tako da uporabnikom prepove objavo domačih naslovov posameznikov na platformah, tudi če so javno dostopni. Upravni odbor se je zavzel tudi za to, da Facebook odpre komunikacijski kanal, da bi transparentno pojasnil, zakaj prihaja do kršitev in kako se z njimi ravna.

Posledice etičnih spopadov v zasebnem sektorju

Širše posledice etičnih spopadov v zasebnem sektorju lahko vključujejo: 

• Več podjetij oblikuje neodvisne odbore za etiko za nadzor nad izvajanjem etičnih smernic v svojih poslovnih praksah.
• Povečane kritike akademskih krogov o tem, kako je komercializacija tehnoloških raziskav privedla do bolj vprašljivih praks in sistemov.
• Več bega možganov iz javnega sektorja, saj tehnološka podjetja iščejo nadarjene javne in univerzitetne raziskovalce umetne inteligence ter jim ponujajo znatne plače in ugodnosti.
• Vlade vse bolj zahtevajo, da vsa podjetja objavijo svoje etične smernice, ne glede na to, ali zagotavljajo tehnološke storitve ali ne.
• Bolj odkriti raziskovalci so odpuščeni iz velikih podjetij zaradi navzkrižja interesov, da bi jih hitro zamenjali.

Vprašanja, ki jih je treba upoštevati

• Kaj mislite, kako bodo etični spopadi vplivali na vrsto izdelkov in storitev, ki jih prejmejo potrošniki?
• Kaj lahko podjetja storijo, da zagotovijo preglednost svojih tehnoloških raziskav?