Etiska riktlinjer inom teknik: När handeln tar över forskningen

• Författare:
• författarnamn

  Quantumrun Framsyn
• Februari 15, 2023

Insiktssammanfattning

På grund av de potentiella faror och algoritmiska fördomar som system med artificiell intelligens (AI) kan orsaka utvalda minoritetsgrupper, kräver många federala myndigheter och företag i allt högre grad att tekniska leverantörer publicerar etiska riktlinjer för hur de utvecklar och distribuerar AI. Att tillämpa dessa riktlinjer i verkligheten är dock mycket mer komplicerat och grumligt.

Etik krockar sammanhang

I Silicon Valley undersöker företag fortfarande hur de bäst kan tillämpa etiska principer i praktiken, inklusive att ställa frågan "hur mycket kostar det att prioritera etik?" Den 2 december 2020 postade Timnit Gebru, medledare för Googles etiska AI-team, en tweet som sa att hon hade fått sparken. Hon var allmänt respekterad inom AI-gemenskapen för sin partiskhet och forskning om ansiktsigenkänning. Händelsen som ledde till att hon fick sparken gällde en tidning som hon var medförfattare till som Google beslutat inte uppfyllde deras standarder för publicering. 

Gebru och andra hävdar dock att avskedandet motiverades av PR snarare än framsteg. Uppsägningen skedde efter att Gebru ifrågasatte ett order om att inte publicera en studie om hur AI som efterliknar mänskligt språk kan skada marginaliserade befolkningar. I februari 2021 fick även Gebrus medförfattare, Margaret Mitchell, sparken. 

Google uppgav att Mitchell bröt mot företagets uppförandekod och säkerhetspolicyer genom att flytta elektroniska filer utanför företaget. Mitchell utvecklade inte grunderna för hennes uppsägning. Flytten utlöste en lavin av kritik, vilket ledde till att Google tillkännagav ändringar i sin mångfalds- och forskningspolicy senast i februari 2021. Denna incident är bara ett exempel på hur etikkrockar delar stora teknikföretag och deras förment objektiva forskningsavdelningar.

Störande inverkan

Enligt Harvard Business Review är den största utmaningen som företagare står inför att hitta en balans mellan externa påtryckningar för att svara på etiska kriser och de interna kraven från deras företag och industrier. Yttre kritik tvingar företag att omvärdera sina affärsmetoder. Påtryckningar från ledningen, branschens konkurrens och allmänna marknadsförväntningar på hur företag ska drivas kan dock ibland skapa motverkande incitament som gynnar status quo. Följaktligen kommer etiska sammandrabbningar bara att öka när kulturella normer utvecklas och när företag (särskilt inflytelserika teknikföretag) fortsätter att tänja på gränserna för de nya affärspraxis som de kan implementera för att generera nya intäkter.

Ett annat exempel på företag som kämpar med denna etiska balans är företaget Meta. För att åtgärda sina publicerade etiska brister inrättade Facebook en oberoende tillsynsstyrelse 2020, med befogenhet att upphäva beslut om innehållsmoderering, även de som fattats av grundaren Mark Zuckerberg. I januari 2021 fattade kommittén sina första avgöranden om omtvistat innehåll och upphävde de flesta fall som den såg. 

Men med miljarder inlägg på Facebook dagligen och ett outsägligt antal innehållsklagomål, arbetar övervakningsnämnden mycket långsammare än traditionella regeringar. Ändå hade styrelsen gett några giltiga rekommendationer. År 2022 rådde panelen Meta Platforms att slå ner på doxxing-incidenter som publicerats på Facebook genom att förbjuda användare att dela individers hemadresser på plattformar även om de är allmänt tillgängliga. Styrelsen förespråkade också att Facebook öppnar en kommunikationskanal för att på ett transparent sätt förklara varför kränkningar inträffar och hur de hanteras.

Konsekvenser av etikkrockar i den privata sektorn

Vidare konsekvenser av etikkrockar i den privata sektorn kan inkludera: 

• Fler företag bygger oberoende etiska styrelser för att övervaka implementeringen av etiska riktlinjer i sina respektive affärspraxis.
• Ökad kritik från akademin om hur kommersialisering av teknisk forskning har lett till mer tvivelaktiga metoder och system.
• Mer kompetensflykt i den offentliga sektorn när teknikföretag headhuntar begåvade offentliga AI-forskare och universitetsforskare och erbjuder betydande löner och förmåner.
• Regeringar kräver i allt högre grad att alla företag ska publicera sina etiska riktlinjer oavsett om de tillhandahåller tekniska tjänster eller inte.
• Fler frispråkiga forskare sparkas från stora företag på grund av intressekonflikter bara för att snabbt ersättas.

Frågor att överväga

• Hur tror du att etikkrockar kommer att påverka den typ av produkter och tjänster som konsumenterna får?
• Vad kan företag göra för att säkerställa transparens i sin tekniska forskning?