Etiekriglyne in tegnologie: Wanneer handel navorsing oorneem

• Author:
• Author naam

  Quantumrun Foresight
• 15 Februarie 2023

Insig opsomming

As gevolg van die potensiële gevare en algoritmiese vooroordeel wat kunsmatige intelligensie (KI)-stelsels uitgesoekte minderheidsgroepe kan inhou, vereis baie federale agentskappe en maatskappye toenemend van tegnologieverskaffers om etiese riglyne te publiseer oor hoe hulle KI ontwikkel en ontplooi. Die toepassing van hierdie riglyne in die werklike lewe is egter baie meer kompleks en troebel.

Etiek bots konteks

In Silicon Valley ondersoek besighede steeds hoe om etiese beginsels die beste in die praktyk toe te pas, insluitend die vraag: "hoeveel kos dit om etiek te prioritiseer?" Op 2 Desember 2020 het Timnit Gebru, medeleier van Google se etiese KI-span, 'n twiet geplaas waarin gesê word dat sy afgedank is. Sy was wyd gerespekteer in die KI-gemeenskap vir haar vooroordeel en navorsing oor gesigsherkenning. Die voorval wat tot haar afdanking gelei het, het betrekking op 'n artikel wat sy mede-outeur was en wat Google besluit het nie aan hul standaarde vir publikasie voldoen nie. 

Gebru en ander voer egter aan dat die afdanking eerder deur openbare betrekkinge as vooruitgang gemotiveer is. Die afdanking het plaasgevind nadat Gebru 'n bevel bevraagteken het om nie 'n studie te publiseer oor hoe KI wat menslike taal naboots, gemarginaliseerde bevolkings kan benadeel. In Februarie 2021 is Gebru se medeskrywer, Margaret Mitchell, ook afgedank. 

Google het verklaar dat Mitchell die maatskappy se gedragskode en sekuriteitsbeleide verbreek het deur elektroniese lêers buite die maatskappy te skuif. Mitchell het nie op grond van haar afdanking uitgebrei nie. Die stap het 'n stortvloed van kritiek ontketen, wat daartoe gelei het dat Google veranderings aan sy diversiteit en navorsingsbeleide teen Februarie 2021 aangekondig het. Hierdie voorval is net een voorbeeld van hoe etiekbotsings groot tegnologiefirmas en hul veronderstelde objektiewe navorsingsafdelings verdeel.

Ontwrigtende impak

Volgens die Harvard Business Review is die grootste uitdaging wat sake-eienaars in die gesig staar om 'n balans te vind tussen eksterne druk om op etiese krisisse te reageer en die interne eise van hul maatskappye en nywerhede. Eksterne kritiek dryf maatskappye om hul sakepraktyke te herevalueer. Druk van bestuur, mededinging in die bedryf en algemene markverwagtinge oor hoe ondernemings bestuur moet word, kan egter soms teenaansporings skep wat die status quo bevoordeel. Gevolglik sal etiese botsings net toeneem namate kulturele norme ontwikkel en namate maatskappye (veral invloedryke tegnologiefirmas) aanhou om grense te verskuif op die nuwe sakepraktyke wat hulle kan implementeer om nuwe inkomste te genereer.

Nog 'n voorbeeld van korporasies wat met hierdie etiese balans sukkel, is die maatskappy, Meta. Om sy gepubliseerde etiese tekortkominge aan te spreek, het Facebook in 2020 'n onafhanklike oorsigraad op die been gebring, met die gesag om besluite oor inhoudmoderering om te keer, selfs dié wat deur stigter Mark Zuckerberg geneem is. In Januarie 2021 het die komitee sy eerste uitsprake oor betwiste inhoud gemaak en die meeste van die sake wat hy gesien het, omgekeer. 

Met miljarde plasings op Facebook daagliks en 'n ongekende aantal inhoudklagtes, werk die toesigraad egter baie stadiger as tradisionele regerings. Die direksie het nietemin 'n paar geldige aanbevelings gemaak. In 2022 het die paneel Meta Platforms aangeraai om doxxing-voorvalle wat op Facebook gepubliseer is, toe te tree deur gebruikers te verbied om individue se huisadresse op platforms te deel, selfs al is dit publiek beskikbaar. Die direksie het ook bepleit dat Facebook 'n kommunikasiekanaal oopmaak om deursigtig te verduidelik waarom oortredings plaasvind en hoe dit hanteer word.

Implikasies van private sektor etiekbotsings

Wyer implikasies van etiekbotsings in die private sektor kan die volgende insluit: 

• Meer maatskappye bou onafhanklike etiekrade om toesig te hou oor die implementering van etiese riglyne in hul onderskeie sakepraktyke.
• Verhoogde kritiek van die akademie oor hoe kommersialisering van tegnologiese navorsing gelei het tot meer twyfelagtige praktyke en stelsels.
• Meer breindreinering in die openbare sektor namate tegnologiefirmas talentvolle openbare en universiteits-KI-navorsers soek en aansienlike salarisse en voordele bied.
• Regerings vereis toenemend dat alle firmas hul etiese riglyne publiseer, ongeag of hulle tegnologiedienste verskaf of nie.
• Meer uitgesproke navorsers wat weens botsing van belange by groot maatskappye afgedank word net om vinnig vervang te word.

Vrae om te oorweeg

• Hoe dink jy sal etiekbotsings die soort produkte en dienste wat verbruikers ontvang, beïnvloed?
• Wat kan ondernemings doen om deursigtigheid in hul tegnologiese navorsing te verseker?