Ethische richtlijnen in technologie: wanneer commercie onderzoek overneemt

• Auteur:
• auteursnaam

  Quantumrun-prognose
• 15 februari 2023

Samenvatting inzicht

Vanwege de potentiële gevaren en algoritmische vooringenomenheid die kunstmatige intelligentie (AI)-systemen kunnen toebrengen aan geselecteerde minderheidsgroepen, eisen veel federale agentschappen en bedrijven steeds vaker dat technologieaanbieders ethische richtlijnen publiceren over hoe zij AI ontwikkelen en inzetten. Het toepassen van deze richtlijnen in het echte leven is echter veel complexer en duisterder.

Ethiek botst met de context

In Silicon Valley onderzoeken bedrijven nog steeds hoe ze ethische principes het beste in de praktijk kunnen toepassen, waarbij ze onder meer de vraag stellen: "hoeveel kost het om prioriteit te geven aan ethiek?" Op 2 december 2020 plaatste Timnit Gebru, medeleider van het ethische AI-team van Google, een tweet waarin stond dat ze was ontslagen. Ze werd alom gerespecteerd in de AI-gemeenschap vanwege haar vooringenomenheid en onderzoek naar gezichtsherkenning. Het incident dat tot haar ontslag leidde, betrof een artikel waarvan ze co-auteur was en waarvan Google besloot dat het niet voldeed aan hun publicatienormen. 

Gebru en anderen beweren echter dat het ontslag eerder was ingegeven door public relations dan door vooruitgang. Het ontslag vond plaats nadat Gebru vraagtekens had gezet bij een bevel om geen onderzoek te publiceren over hoe AI die menselijke taal nabootst, gemarginaliseerde bevolkingsgroepen kan schaden. In februari 2021 werd ook Gebru's co-auteur, Margaret Mitchell, ontslagen. 

Google verklaarde dat Mitchell de gedragscode en het beveiligingsbeleid van het bedrijf had geschonden door elektronische bestanden buiten het bedrijf te verplaatsen. Mitchell ging niet in op de gronden van haar ontslag. De verhuizing veroorzaakte een lawine van kritiek, waardoor Google tegen februari 2021 wijzigingen in zijn diversiteits- en onderzoeksbeleid aankondigde. Dit incident is slechts één voorbeeld van hoe ethische botsingen grote technologiebedrijven en hun zogenaamd objectieve onderzoeksafdelingen verdelen.

Disruptieve impact

Volgens de Harvard Business Review is de grootste uitdaging voor ondernemers het vinden van een balans tussen externe druk om te reageren op ethische crises en de interne eisen van hun bedrijven en sectoren. Externe kritiek zet bedrijven ertoe aan hun handelspraktijken opnieuw te evalueren. De druk van het management, de concurrentie in de sector en de algemene verwachtingen van de markt over hoe bedrijven geleid zouden moeten worden, kunnen echter soms tegenwicht bieden aan prikkels die de status quo bevorderen. Dienovereenkomstig zullen ethische botsingen alleen maar toenemen naarmate culturele normen evolueren en naarmate bedrijven (vooral invloedrijke technologiebedrijven) grenzen blijven verleggen met betrekking tot de nieuwe zakelijke praktijken die ze kunnen implementeren om nieuwe inkomsten te genereren.

Een ander voorbeeld van bedrijven die worstelen met dit ethische evenwicht is het bedrijf Meta. Om de gepubliceerde ethische tekortkomingen aan te pakken, heeft Facebook in 2020 een onafhankelijke raad van toezicht opgericht, met de bevoegdheid om beslissingen over het modereren van inhoud ongedaan te maken, zelfs die van oprichter Mark Zuckerberg. In januari 2021 deed de commissie haar eerste uitspraken over betwiste inhoud en vernietigde de meeste zaken die zij zag. 

Met miljarden posts op Facebook per dag en een onnoemelijk aantal inhoudelijke klachten, werkt de raad van toezicht echter veel trager dan traditionele overheden. Desalniettemin had het bestuur een aantal geldige aanbevelingen gedaan. In 2022 adviseerde het panel Meta Platforms om hard op te treden tegen doxxing-incidenten die op Facebook zijn gepubliceerd door gebruikers te verbieden de thuisadressen van individuen op platforms te delen, zelfs als deze openbaar beschikbaar zijn. Het bestuur pleitte er ook voor dat Facebook een communicatiekanaal opent om op transparante wijze uit te leggen waarom schendingen plaatsvinden en hoe deze worden afgehandeld.

Implicaties van ethische botsingen in de particuliere sector

Bredere implicaties van ethische botsingen in de particuliere sector kunnen zijn: 

• Meer bedrijven bouwen onafhankelijke ethische raden om toezicht te houden op de implementatie van ethische richtlijnen in hun respectieve zakelijke praktijken.
• Meer kritiek uit de academische wereld over hoe commercialisering van technisch onderzoek heeft geleid tot meer twijfelachtige praktijken en systemen.
• Meer braindrain uit de publieke sector doordat technologiebedrijven getalenteerde publieke en universitaire AI-onderzoekers headhunten, met substantiële salarissen en secundaire arbeidsvoorwaarden.
• Overheden eisen steeds vaker dat alle bedrijven hun ethische richtlijnen publiceren, ongeacht of ze technologiediensten leveren of niet.
• Meer uitgesproken onderzoekers die vanwege belangenverstrengeling bij grote bedrijven worden ontslagen, worden snel vervangen.

Vragen om te overwegen

• Hoe denk je dat ethische botsingen het soort producten en diensten zullen beïnvloeden dat consumenten ontvangen?
• Wat kunnen bedrijven doen om transparantie in hun technisch onderzoek te waarborgen?