Eettiset ohjeet teknologiassa: Kun kauppa ottaa tutkimuksen haltuunsa

• Kirjoittaja:
• tekijän nimi

  Quantumrun Foresight
• Helmikuu 15, 2023

Havainnon yhteenveto

Tekoälyjärjestelmien mahdollisesti aiheuttamien vaarojen ja algoritmisten harhojen vuoksi monet liittovaltion virastot ja yritykset vaativat yhä useammin teknologian tarjoajia julkaisemaan eettisiä ohjeita tekoälyn kehittämisestä ja käyttöönotosta. Näiden ohjeiden soveltaminen tosielämässä on kuitenkin paljon monimutkaisempaa ja hämärämpää.

Etiikka törmää kontekstiin

Piilaaksossa yritykset tutkivat edelleen, miten eettisiä periaatteita voitaisiin parhaiten soveltaa käytännössä, mukaan lukien kysymys: "Kuinka paljon etiikan priorisoiminen maksaa?" Timnit Gebru, Googlen eettisen tekoälytiimin johtaja, julkaisi 2. joulukuuta 2020 twiitin, jossa hän ilmoitti, että hänet on erotettu. Tekoälyyhteisössä häntä arvostettiin laajalti puolueellisuudesta ja kasvojentunnistustutkimuksestaan. Hänen ampumiseensa johtanut tapaus koski hänen kanssaan kirjoittamaa paperia, jonka Google päätti, ettei se täyttänyt heidän julkaisustandardejaan. 

Gebru ja muut väittävät kuitenkin, että ampumisen motiivina oli pikemminkin suhdetoiminta kuin edistys. Irtisanominen tapahtui sen jälkeen, kun Gebru kyseenalaisti määräyksen olla julkaisematta tutkimusta siitä, kuinka ihmisen kieltä jäljittelevä tekoäly voi vahingoittaa syrjäytyneitä väestöryhmiä. Helmikuussa 2021 myös Gebrun kirjoittaja Margaret Mitchell erotettiin. 

Google ilmoitti, että Mitchell rikkoi yrityksen käytännesääntöjä ja turvallisuuskäytäntöjä siirtämällä sähköisiä tiedostoja yrityksen ulkopuolelle. Mitchell ei tarkentanut irtisanomisensa syitä. Muutos sai aikaan kritiikin vyöryn, minkä seurauksena Google ilmoitti muutoksista monimuotoisuuteen ja tutkimuspolitiikkaansa helmikuuhun 2021 mennessä. Tämä tapaus on vain yksi esimerkki siitä, kuinka eettiset ristiriidat jakavat suuria teknologiayrityksiä ja niiden oletettavasti objektiivisia tutkimusosastoja.

Häiritsevä vaikutus

Harvard Business Reviewin mukaan yritysten omistajien suurin haaste on löytää tasapaino ulkoisten paineiden ja yritysten ja toimialojen sisäisten vaatimusten välillä vastata eettisiin kriiseihin. Ulkoinen kritiikki pakottaa yritykset arvioimaan uudelleen liiketoimintakäytäntöjään. Johdon paineet, alan kilpailu ja yleiset markkinoiden odotukset siitä, miten yrityksiä pitäisi johtaa, voivat kuitenkin joskus luoda tasapainottavia kannustimia, jotka suosivat vallitsevaa tilannetta. Näin ollen eettiset ristiriidat vain lisääntyvät, kun kulttuuriset normit kehittyvät ja yritykset (erityisesti vaikutusvaltaiset teknologiayritykset) jatkavat uusien liiketoimintakäytäntöjen rajoja, joita ne voivat toteuttaa uusien tulojen saamiseksi.

Toinen esimerkki tämän eettisen tasapainon kanssa kamppailevista yrityksistä on yritys Meta. Korjatakseen julkisia eettisiä puutteitaan Facebook perusti vuonna 2020 riippumattoman valvontalautakunnan, jolla on valtuudet kumota sisällönvalvontapäätökset, jopa perustajan Mark Zuckerbergin tekemät. Tammikuussa 2021 valiokunta teki ensimmäiset kiistanalaisen sisällön ratkaisunsa ja kumosi suurimman osan näkemistään tapauksista. 

Kuitenkin, miljardeja viestejä Facebookissa päivittäin ja lukemattomia sisältövalituksia, valvontalautakunta toimii paljon hitaammin kuin perinteiset hallitukset. Siitä huolimatta hallitus oli antanut joitain päteviä suosituksia. Vuonna 2022 paneeli neuvoi Meta Platformsia torjumaan Facebookissa julkaistuja doxxing-tapauksia kieltämällä käyttäjiä jakamasta yksilöiden kotiosoitteita alustoilla, vaikka ne olisivat julkisesti saatavilla. Hallitus kannatti myös, että Facebook avaa viestintäkanavan, joka selittää avoimesti, miksi rikkomuksia tapahtuu ja miten niitä käsitellään.

Yksityisen sektorin eettisten ristiriitojen vaikutukset

Yksityisen sektorin eettisten yhteenottojen laajempia vaikutuksia voivat olla: 

• Yhä useammat yritykset perustavat riippumattomia eettisiä lautakuntia valvomaan eettisten ohjeiden täytäntöönpanoa liiketoiminnassaan.
• Akateemisten tahojen lisääntynyt kritiikki siitä, kuinka teknologiatutkimuksen kaupallistaminen on johtanut kyseenalaisempiin käytäntöihin ja järjestelmiin.
• Julkisen sektorin aivovuoto lisääntyy, kun teknologiayritykset jahtaavat lahjakkaita julkisia ja yliopistojen tekoälytutkijoita tarjoamalla huomattavia palkkoja ja etuja.
• Hallitukset vaativat yhä useammin kaikkia yrityksiä julkaisemaan eettiset ohjeensa riippumatta siitä, tarjoavatko ne teknologiapalveluita vai eivät.
• Suorapuheisempia tutkijoita irtisanotaan suuryrityksistä eturistiriitojen vuoksi, jotta ne nopeasti korvattaisiin.

Pohdittavia kysymyksiä

• Miten eettiset ristiriidat vaikuttavat siihen, millaisia ​​tuotteita ja palveluita kuluttajat saavat?
• Mitä yritykset voivat tehdä varmistaakseen teknologiatutkimuksensa läpinäkyvyyden?