Chartes éthiques en technologie : quand le commerce prend le pas sur la recherche

• Auteur :
• Nom de l'auteur

  Prévision quantique
• 15 février 2023

Résumé des informations

En raison des dangers potentiels et des biais algorithmiques que les systèmes d'intelligence artificielle (IA) peuvent infliger à certains groupes minoritaires, de nombreuses agences et entreprises fédérales exigent de plus en plus que les fournisseurs de technologies publient des directives éthiques sur la manière dont ils développent et déploient l'IA. Cependant, l'application de ces directives dans la vie réelle est beaucoup plus complexe et obscure.

Contexte de conflit éthique

Dans la Silicon Valley, les entreprises explorent encore la meilleure façon d'appliquer les principes éthiques dans la pratique, notamment en posant la question : "Combien cela coûte-t-il de donner la priorité à l'éthique ?" Le 2 décembre 2020, Timnit Gebru, co-responsable de l'équipe d'IA éthique de Google, a publié un tweet disant qu'elle avait été licenciée. Elle était largement respectée dans la communauté de l'IA pour ses recherches sur les préjugés et la reconnaissance faciale. L'incident qui a conduit à son licenciement concernait un article qu'elle avait co-écrit et que Google a décidé de ne pas respecter ses normes de publication. 

Cependant, Gebru et d'autres soutiennent que le licenciement était motivé par les relations publiques plutôt que par le progrès. Le licenciement est survenu après que Gebru a remis en question un ordre de ne pas publier une étude sur la façon dont l'IA qui imite le langage humain peut nuire aux populations marginalisées. En février 2021, la co-auteure de Gebru, Margaret Mitchell, a également été licenciée. 

Google a déclaré que Mitchell avait enfreint le code de conduite et les politiques de sécurité de l'entreprise en déplaçant des fichiers électroniques à l'extérieur de l'entreprise. Mitchell n'a pas précisé les motifs de son licenciement. Cette décision a déclenché une avalanche de critiques, conduisant Google à annoncer des changements à ses politiques de diversité et de recherche d'ici février 2021. Cet incident n'est qu'un exemple de la façon dont les conflits éthiques divisent les grandes entreprises technologiques et leurs départements de recherche soi-disant objectifs.

Impact perturbateur

Selon le Harvard Business Review, le plus grand défi auquel sont confrontés les propriétaires d'entreprise est de trouver un équilibre entre les pressions externes pour répondre aux crises éthiques et les exigences internes de leurs entreprises et industries. Les critiques externes poussent les entreprises à réévaluer leurs pratiques commerciales. Cependant, les pressions exercées par la direction, la concurrence de l'industrie et les attentes générales du marché quant à la manière dont les entreprises devraient être gérées peuvent parfois créer des incitations compensatoires qui favorisent le statu quo. En conséquence, les conflits éthiques ne feront qu'augmenter à mesure que les normes culturelles évoluent et que les entreprises (en particulier les entreprises technologiques influentes) continuent de repousser les limites des nouvelles pratiques commerciales qu'elles peuvent mettre en œuvre pour générer de nouveaux revenus.

La société Meta est un autre exemple d'entreprise aux prises avec cet équilibre éthique. Pour remédier à ses lacunes éthiques médiatisées, Facebook a mis en place un conseil de surveillance indépendant en 2020, avec le pouvoir d'annuler les décisions de modération de contenu, même celles prises par le fondateur Mark Zuckerberg. En janvier 2021, le comité a rendu ses premières décisions sur le contenu contesté et a annulé la plupart des cas qu'il a vus. 

Cependant, avec des milliards de publications quotidiennes sur Facebook et un nombre incalculable de plaintes de contenu, le conseil de surveillance fonctionne beaucoup plus lentement que les gouvernements traditionnels. Néanmoins, le conseil avait fait des recommandations valables. En 2022, le panel a conseillé à Meta Platforms de sévir contre les incidents de doxxing publiés sur Facebook en interdisant aux utilisateurs de partager les adresses personnelles des individus sur les plateformes même si elles sont accessibles au public. Le conseil a également préconisé que Facebook ouvre un canal de communication pour expliquer de manière transparente pourquoi les violations se produisent et comment elles sont gérées.

Implications des conflits éthiques dans le secteur privé

Les implications plus larges des conflits éthiques dans le secteur privé peuvent inclure : 

• Davantage d'entreprises créent des comités d'éthique indépendants pour superviser la mise en œuvre de directives éthiques dans leurs pratiques commerciales respectives.
• De plus en plus de critiques de la part des universitaires sur la façon dont la commercialisation de la recherche technologique a conduit à des pratiques et des systèmes plus discutables.
• Davantage de fuite des cerveaux dans le secteur public alors que les entreprises technologiques chassent les talents des chercheurs publics et universitaires en IA, offrant des salaires et des avantages substantiels.
• Les gouvernements exigent de plus en plus de toutes les entreprises qu'elles publient leurs directives éthiques, qu'elles fournissent ou non des services technologiques.
• Des chercheurs plus francs étant licenciés de grandes entreprises en raison de conflits d'intérêts pour être rapidement remplacés.

Questions à considérer

• Comment pensez-vous que les conflits d'éthique affecteront le type de produits et de services que les consommateurs reçoivent ?
• Que peuvent faire les entreprises pour assurer la transparence de leur recherche technologique ?