Etiske retningslinjer i teknologi: Når handel overtager forskning

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• Februar 15, 2023

Oversigt over indsigt

På grund af de potentielle farer og algoritmiske skævheder, som kunstig intelligens (AI)-systemer kan påføre udvalgte minoritetsgrupper, kræver mange føderale agenturer og virksomheder i stigende grad, at teknologiudbydere offentliggør etiske retningslinjer for, hvordan de udvikler og implementerer AI. Men at anvende disse retningslinjer i det virkelige liv er meget mere kompleks og grumset.

Etik kolliderer med kontekst

I Silicon Valley undersøger virksomheder stadig, hvordan de bedst kan anvende etiske principper i praksis, herunder at stille spørgsmålet, "hvor meget koster det at prioritere etik?" Den 2. december 2020 udsendte Timnit Gebru, medleder af Googles etiske AI-team, et tweet, hvori han sagde, at hun var blevet fyret. Hun var bredt respekteret i AI-samfundet for hendes bias og forskning i ansigtsgenkendelse. Hændelsen, der førte til hendes fyring, vedrørte et papir, hun havde været medforfatter til, som Google besluttede ikke levede op til deres standarder for offentliggørelse. 

Gebru og andre hævder dog, at fyringen var motiveret af public relations frem for fremskridt. Afskedigelsen skete, efter at Gebru stillede spørgsmålstegn ved en ordre om ikke at offentliggøre en undersøgelse af, hvordan kunstig intelligens, der efterligner menneskeligt sprog, kan skade marginaliserede befolkninger. I februar 2021 blev Gebrus medforfatter, Margaret Mitchell, også fyret. 

Google udtalte, at Mitchell brød virksomhedens adfærdskodeks og sikkerhedspolitikker ved at flytte elektroniske filer uden for virksomheden. Mitchell uddybede ikke begrundelsen for sin afskedigelse. Bevægelsen udløste en lavine af kritik, hvilket førte til, at Google annoncerede ændringer i sin mangfoldighed og forskningspolitikker inden februar 2021. Denne hændelse er blot et eksempel på, hvordan etiske sammenstød deler store teknologivirksomheder og deres angiveligt objektive forskningsafdelinger.

Forstyrrende påvirkning

Ifølge Harvard Business Review er den største udfordring virksomhedsejere at finde en balance mellem eksternt pres for at reagere på etiske kriser og de interne krav fra deres virksomheder og industrier. Ekstern kritik presser virksomheder til at revurdere deres forretningspraksis. Men pres fra ledelsen, industriens konkurrence og generelle markedsforventninger til, hvordan virksomheder skal drives, kan nogle gange skabe modvirkende incitamenter, der favoriserer status quo. Følgelig vil etiske sammenstød kun øges, efterhånden som kulturelle normer udvikler sig, og efterhånden som virksomheder (især indflydelsesrige teknologivirksomheder) fortsætter med at skubbe grænser for den nye forretningspraksis, de kan implementere for at generere nye indtægter.

Et andet eksempel på virksomheder, der kæmper med denne etiske balance, er virksomheden Meta. For at afhjælpe sine offentliggjorte etiske mangler oprettede Facebook i 2020 et uafhængigt tilsynsorgan med bemyndigelse til at omstøde beslutninger om indholdsmoderering, selv dem, der blev truffet af grundlæggeren Mark Zuckerberg. I januar 2021 afsagde udvalget sine første afgørelser om omstridt indhold og omstødte de fleste af de sager, det så. 

Men med milliarder af opslag på Facebook dagligt og et utalligt antal indholdsklager arbejder tilsynsrådet meget langsommere end traditionelle regeringer. Ikke desto mindre havde bestyrelsen givet nogle valide anbefalinger. I 2022 rådede panelet Meta Platforms til at slå ned på doxxing-hændelser offentliggjort på Facebook ved at forbyde brugere at dele enkeltpersoners hjemmeadresser på platforme, selvom de er offentligt tilgængelige. Bestyrelsen slog også til lyd for, at Facebook åbner en kommunikationskanal for på en gennemsigtig måde at forklare, hvorfor krænkelser opstår, og hvordan de håndteres.

Konsekvenser af etiske sammenstød i den private sektor

Bredere konsekvenser af etiske sammenstød i den private sektor kan omfatte: 

• Flere virksomheder bygger uafhængige etiske bestyrelser til at overvåge implementeringen af ​​etiske retningslinjer i deres respektive forretningspraksis.
• Øget kritik fra den akademiske verden om, hvordan kommercialisering af teknologisk forskning har ført til mere tvivlsom praksis og systemer.
• Mere hjerneflugt i den offentlige sektor, efterhånden som teknologivirksomheder leder efter talentfulde offentlige og universitets-AI-forskere og tilbyder betydelige lønninger og fordele.
• Regeringer kræver i stigende grad, at alle virksomheder offentliggør deres etiske retningslinjer, uanset om de leverer teknologitjenester eller ej.
• Flere åbenhjertige forskere fyres fra store virksomheder på grund af interessekonflikter for hurtigt at blive erstattet.

Spørgsmål at overveje

• Hvordan tror du, at etiske sammenstød vil påvirke den slags produkter og tjenester, som forbrugerne modtager?
• Hvad kan virksomheder gøre for at sikre gennemsigtighed i deres teknologiske forskning?