Etiske retningslinjer i teknologi: Når handel overtar forskning

• Forfatter:
• forfatternavn

  Quantumrun Foresight
• Februar 15, 2023

Oppsummering av innsikt

På grunn av de potensielle farene og algoritmiske skjevhetene som kunstig intelligens (AI)-systemer kan påføre utvalgte minoritetsgrupper, krever mange føderale byråer og selskaper i økende grad at teknologileverandører publiserer etiske retningslinjer for hvordan de utvikler og distribuerer AI. Å bruke disse retningslinjene i det virkelige liv er imidlertid mye mer komplisert og grumsete.

Etikk kolliderer med kontekst

I Silicon Valley utforsker bedrifter fortsatt hvordan de best kan anvende etiske prinsipper i praksis, inkludert å stille spørsmålet "hvor mye koster det å prioritere etikk?" 2. desember 2020 la Timnit Gebru, medleder for Googles etiske AI-team, ut en tweet som sa at hun hadde fått sparken. Hun ble bredt respektert i AI-miljøet for sin skjevhet og forskning på ansiktsgjenkjenning. Hendelsen som førte til at hun fikk sparken, gjaldt en artikkel hun hadde vært medforfatter av, som Google besluttet ikke oppfylte standardene deres for publisering. 

Gebru og andre hevder imidlertid at sparkingen var motivert av PR snarere enn fremgang. Oppsigelsen skjedde etter at Gebru stilte spørsmål ved en ordre om ikke å publisere en studie om hvordan AI som etterligner menneskelig språk kan skade marginaliserte befolkninger. I februar 2021 ble også Gebrus medforfatter, Margaret Mitchell, sparket. 

Google uttalte at Mitchell brøt selskapets etiske retningslinjer og sikkerhetspolicyer ved å flytte elektroniske filer utenfor selskapet. Mitchell utdypet ikke begrunnelsen for oppsigelsen hennes. Flyttingen utløste et skred av kritikk, noe som førte til at Google kunngjorde endringer i sin mangfolds- og forskningspolicy innen februar 2021. Denne hendelsen er bare ett eksempel på hvordan etiske sammenstøt deler store teknologibedrifter og deres antatt objektive forskningsavdelinger.

Forstyrrende påvirkning

I følge Harvard Business Review er den største utfordringen bedriftseiere står overfor å finne en balanse mellom eksternt press for å svare på etiske kriser og de interne kravene fra deres selskaper og bransjer. Ekstern kritikk presser selskaper til å revurdere sin forretningspraksis. Press fra ledelsen, bransjekonkurranse og generelle markedsforventninger til hvordan virksomheter skal drives kan imidlertid noen ganger skape motvirkende insentiver som favoriserer status quo. Følgelig vil etiske sammenstøt bare øke etter hvert som kulturelle normer utvikler seg og ettersom selskaper (spesielt innflytelsesrike teknologifirmaer) fortsetter å presse grenser for den nye forretningspraksisen de kan implementere for å generere nye inntekter.

Et annet eksempel på selskaper som sliter med denne etiske balansen er selskapet Meta. For å løse sine publiserte etiske mangler, opprettet Facebook et uavhengig tilsynsstyre i 2020, med myndighet til å omstøte beslutninger om innholdsmoderering, selv de som ble tatt av grunnlegger Mark Zuckerberg. I januar 2021 avsa utvalget sine første avgjørelser om omstridt innhold og omgjorde de fleste sakene den så. 

Men med milliarder av innlegg på Facebook daglig og et utallig antall innholdsklager, fungerer tilsynsstyret mye tregere enn tradisjonelle myndigheter. Likevel hadde styret kommet med noen gyldige anbefalinger. I 2022 rådet panelet Meta Platforms til å slå ned på doxxing-hendelser publisert på Facebook ved å forby brukere å dele enkeltpersoners hjemmeadresser på plattformer selv om de er offentlig tilgjengelige. Styret tok også til orde for at Facebook åpner en kommunikasjonskanal for åpent å forklare hvorfor brudd oppstår og hvordan de håndteres.

Implikasjoner av etikksammenstøt i privat sektor

Større implikasjoner av etiske sammenstøt i privat sektor kan omfatte: 

• Flere selskaper bygger uavhengige etikkstyrer for å overvåke implementeringen av etiske retningslinjer i deres respektive forretningspraksis.
• Økt kritikk fra akademia om hvordan kommersialisering av teknologisk forskning har ført til mer tvilsom praksis og systemer.
• Mer hjerneflukt fra offentlig sektor ettersom teknologibedrifter leder etter talentfulle AI-forskere fra offentlige og universiteter, og tilbyr betydelige lønninger og fordeler.
• Myndigheter krever i økende grad at alle firmaer publiserer sine etiske retningslinjer uavhengig av om de leverer teknologitjenester eller ikke.
• Flere frittalende forskere blir sparket fra store selskaper på grunn av interessekonflikter for så raskt å bli erstattet.

Spørsmål å vurdere

• Hvordan tror du etikksammenstøt vil påvirke typen produkter og tjenester som forbrukerne mottar?
• Hva kan bedrifter gjøre for å sikre åpenhet i sin teknologiske forskning?