Siðareglur í tækni: Þegar verslun tekur við rannsóknum

• Höfundur:
• Höfundur nafn

  Quantumrun Foresight
• Febrúar 15, 2023

Innsýn samantekt

Vegna hugsanlegrar hættu og reikniritskekkju sem gervigreindarkerfi (AI) geta valdið völdum minnihlutahópum, krefjast fjölmargar alríkisstofnanir og fyrirtæki í auknum mæli að tækniveitendur birti siðferðilegar leiðbeiningar um hvernig þeir eru að þróa og beita gervigreind. Hins vegar er miklu flóknara og grugglegra að beita þessum leiðbeiningum í raunveruleikanum.

Siðfræði skellur á samhengi

Í Silicon Valley eru fyrirtæki enn að kanna hvernig best sé að beita siðferðilegum meginreglum í framkvæmd, þar á meðal að spyrja spurningarinnar, "hvað kostar að forgangsraða siðferði?" Þann 2. desember 2020 birti Timnit Gebru, yfirmaður siðferðislegs gervigreindarteymis Google, tíst þar sem hún sagði að hún hefði verið rekin. Hún naut mikillar virðingar í gervigreindarsamfélaginu fyrir hlutdrægni sína og rannsóknir á andlitsþekkingu. Atvikið sem leiddi til þess að hún var rekin varðaði blað sem hún var meðhöfundur sem Google ákvað að uppfyllti ekki kröfur þeirra um útgáfu. 

Gebru og fleiri halda því hins vegar fram að rekið hafi verið af almannatengslum fremur en framförum. Uppsögnin átti sér stað eftir að Gebru dró í efa skipun um að birta ekki rannsókn á því hvernig gervigreind sem líkir eftir mannamáli getur skaðað jaðarsetta íbúa. Í febrúar 2021 var meðhöfundur Gebru, Margaret Mitchell, einnig rekinn. 

Google lýsti því yfir að Mitchell hafi brotið siðareglur og öryggisstefnu fyrirtækisins með því að færa rafrænar skrár út fyrir fyrirtækið. Mitchell lýsti ekki nánar ástæðum uppsagnar sinnar. Þessi ráðstöfun olli gagnrýni snjóflóða, sem leiddi til þess að Google tilkynnti breytingar á fjölbreytileika og rannsóknarstefnu sinni fyrir febrúar 2021. Þetta atvik er aðeins eitt dæmi um hvernig siðferðisátök skipta stórum tæknifyrirtækjum og meintum hlutlægum rannsóknardeildum þeirra.

Truflandi áhrif

Samkvæmt Harvard Business Review er stærsta áskorunin sem eigendur fyrirtækja standa frammi fyrir að finna jafnvægi á milli ytri þrýstings til að bregðast við siðferðilegum kreppum og innri krafna fyrirtækja þeirra og atvinnugreina. Ytri gagnrýni hvetur fyrirtæki til að endurmeta viðskiptahætti sína. Hins vegar getur þrýstingur frá stjórnendum, samkeppni í iðnaði og almennar væntingar markaðarins um hvernig fyrirtæki skuli rekið stundum skapað mótvægishvata sem stuðlar að óbreyttu ástandi. Samkvæmt því munu siðferðileg átök aðeins aukast eftir því sem menningarleg viðmið þróast og þar sem fyrirtæki (sérstaklega áhrifamikil tæknifyrirtæki) halda áfram að ýta mörkum á nýja viðskiptahætti sem þau geta innleitt til að afla nýrra tekna.

Annað dæmi um fyrirtæki sem glíma við þetta siðferðislega jafnvægi er fyrirtækið Meta. Til að bregðast við opinberum siðferðilegum göllum sínum setti Facebook á laggirnar sjálfstæða eftirlitsstjórn árið 2020, með heimild til að hnekkja ákvörðunum um stjórn á efni, jafnvel þeim sem stofnandinn Mark Zuckerberg tók. Í janúar 2021 kvað nefndin upp sína fyrstu úrskurði um umdeilt efni og ógilti flest mál sem hún sá um. 

Hins vegar, með milljarða pósta á Facebook daglega og ómældan fjölda kvartana um efni, starfar eftirlitsnefndin mun hægar en hefðbundin stjórnvöld. Engu að síður hafði stjórnin sett fram nokkrar gildar tillögur. Árið 2022 ráðlagði nefndin Meta Platforms að berjast gegn doxxing-atvikum sem birt voru á Facebook með því að banna notendum að deila heimilisföngum einstaklinga á kerfum jafnvel þótt þau séu aðgengileg almenningi. Stjórnin beitti sér einnig fyrir því að Facebook opnaði samskiptarás til að útskýra á gagnsæjan hátt hvers vegna brot eiga sér stað og hvernig þau eru meðhöndluð.

Afleiðingar siðferðisátaka í einkageiranum

Víðtækari afleiðingar siðferðisátaka í einkageiranum geta verið: 

• Fleiri fyrirtæki byggja upp sjálfstæðar siðanefndir til að hafa umsjón með innleiðingu siðferðilegra viðmiðunarreglna í viðkomandi viðskiptaháttum.
• Aukin gagnrýni frá fræðasamfélaginu um hvernig markaðssetning tæknirannsókna hefur leitt til vafasamari aðferða og kerfa.
• Meira atgervisflótti hjá hinu opinbera þegar tæknifyrirtæki leita að hæfileikaríkum gervigreindarfræðingum almennings og háskóla og bjóða upp á umtalsverð laun og fríðindi.
• Ríkisstjórnir krefjast þess í auknum mæli að öll fyrirtæki birti siðareglur sínar, óháð því hvort þau veita tækniþjónustu eða ekki.
• Fleiri hreinskilinn rannsakendur reknir úr stórum fyrirtækjum vegna hagsmunaárekstra til þess eins að skipta fljótt út.

Spurningar sem þarf að íhuga

• Hvernig heldurðu að siðferðisátök muni hafa áhrif á hvers konar vörur og þjónustu neytendur fá?
• Hvað geta fyrirtæki gert til að tryggja gagnsæi í tæknirannsóknum sínum?