Pautes ètiques en tecnologia: quan el comerç es fa càrrec de la investigació

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Febrer 15, 2023

Resum d'informació

A causa dels perills potencials i el biaix algorítmic que els sistemes d'intel·ligència artificial (IA) poden infligir a grups minoritaris selectes, moltes agències i empreses federals requereixen cada cop més que els proveïdors de tecnologia publiquin directrius ètiques sobre com estan desenvolupant i desplegant la IA. Tanmateix, aplicar aquestes directrius a la vida real és molt més complex i tèrbol.

Context de xoc ètic

A Silicon Valley, les empreses encara estan explorant la millor manera d'aplicar els principis ètics a la pràctica, inclosa la pregunta: "Quant costa prioritzar l'ètica?" El 2 de desembre de 2020, Timnit Gebru, codirigent de l'equip d'IA ètica de Google, va publicar un tuit dient que havia estat acomiadat. Va ser àmpliament respectada a la comunitat d'IA per la seva investigació sobre el seu biaix i reconeixement facial. L'incident que va provocar la seva acomiadament es refereix a un article que ella havia escrit com a coautora i que Google va decidir que no complia els seus estàndards de publicació. 

No obstant això, Gebru i altres argumenten que l'acomiadament va ser motivat per les relacions públiques més que per el progrés. L'acomiadament es va produir després que Gebru qüestionés una ordre de no publicar un estudi sobre com la IA que imita el llenguatge humà pot perjudicar les poblacions marginades. El febrer de 2021, la coautora de Gebru, Margaret Mitchell, també va ser acomiadada. 

Google va declarar que Mitchell va trencar el codi de conducta i les polítiques de seguretat de l'empresa movent fitxers electrònics fora de l'empresa. Mitchell no va donar més detalls sobre els motius del seu acomiadament. La mesura va provocar una allau de crítiques, que va portar a Google a anunciar canvis a les seves polítiques de diversitat i recerca el febrer de 2021. Aquest incident és només un exemple de com els enfrontaments ètics divideixen les grans empreses tecnològiques i els seus departaments de recerca suposadament objectius.

Impacte disruptiu

Segons la Harvard Business Review, el repte més gran que s'enfronten els empresaris és trobar un equilibri entre les pressions externes per respondre a les crisis ètiques i les demandes internes de les seves empreses i indústries. Les crítiques externes empenyen les empreses a reavaluar les seves pràctiques empresarials. No obstant això, les pressions de la direcció, la competència del sector i les expectatives generals del mercat sobre com s'han de gestionar les empreses de vegades poden crear incentius compensatoris que afavoreixen l'statu quo. En conseqüència, els enfrontaments ètics només augmentaran a mesura que evolucionin les normes culturals i a mesura que les empreses (especialment les empreses tecnològiques influents) continuïn superant els límits de les noves pràctiques empresarials que poden implementar per generar nous ingressos.

Un altre exemple de corporacions que lluiten amb aquest equilibri ètic és l'empresa Meta. Per abordar les seves deficiències ètiques anunciades, Facebook va crear un consell de supervisió independent el 2020, amb autoritat per anul·lar les decisions de moderació del contingut, fins i tot les preses pel fundador Mark Zuckerberg. El gener de 2021, el comitè va prendre les seves primeres decisions sobre continguts impugnats i va anul·lar la majoria dels casos que va veure. 

Tanmateix, amb milers de milions de publicacions diàries a Facebook i un nombre incalculable de queixes de contingut, la junta de supervisió funciona molt més lent que els governs tradicionals. No obstant això, la junta havia fet algunes recomanacions vàlides. El 2022, el panell va aconsellar a Meta Platforms que reprimissin els incidents de doxxing publicats a Facebook prohibint als usuaris compartir les adreces de casa de les persones a les plataformes, encara que estiguin disponibles públicament. La junta també va defensar que Facebook obrí un canal de comunicacions per explicar de manera transparent per què es produeixen violacions i com es gestionen.

Implicacions dels enfrontaments ètics del sector privat

Les implicacions més àmplies dels enfrontaments ètics en el sector privat poden incloure: 

• Més empreses construeixen taules d'ètica independents per supervisar la implementació de directrius ètiques en les seves respectives pràctiques empresarials.
• L'augment de les crítiques del món acadèmic sobre com la comercialització de la investigació tecnològica ha donat lloc a pràctiques i sistemes més qüestionables.
• Més fuga de cervells del sector públic a mesura que les empreses tecnològiques busquen investigadors talentosos d'IA públics i universitaris, oferint sous i beneficis substancials.
• Els governs exigeixen cada cop més a totes les empreses que publiquin les seves directrius ètiques, independentment de si ofereixen serveis tecnològics o no.
• Els investigadors més oberts són acomiadats de grans empreses a causa de conflictes d'interessos només per ser substituïts ràpidament.

Preguntes a tenir en compte

• Com creus que els enfrontaments ètics afectaran el tipus de productes i serveis que reben els consumidors?
• Què poden fer les empreses per garantir la transparència en la seva recerca tecnològica?