Big Tech et militaire : la zone grise éthique

• Auteur :
• Nom de l'auteur

  Prévision quantique
• 18 janvier 2023

Résumé des informations

Les entreprises de la Silicon Valley ont été à l'origine d'innovations importantes dans les technologies autonomes, telles que les véhicules autonomes et les drones. Depuis les années 2010, ces innovations se sont progressivement infiltrées dans les piles technologiques des armées du monde entier pour faire progresser les capacités de guerre autonomes. En conséquence, les employés de la technologie du secteur privé et les organisations de défense des droits de l'homme du monde entier demandent des directives plus transparentes sur la manière dont les armées respectives de leurs pays adoptent les technologies du secteur privé.

Big Tech et le contexte militaire

Le développement technologique pour l'armée demande énormément de temps et d'investissements. Le complexe militaro-industriel, par exemple, implique généralement un partenariat de longue date entre des organisations militaires et d'importants sous-traitants de la défense, tels que Lockheed Martin et Raytheon aux États-Unis. Leurs projets consistent à développer des moyens de défense tels que des drones militaires autonomes et des porte-avions. 

Cependant, le complexe militaro-industriel implique également des partenariats avec d'autres types d'entreprises du secteur privé qui ne sont pas traditionnellement associées au secteur de la défense, telles que les entreprises Big Tech. Alors que ces nouveaux partenariats de défense se multiplient, de nombreux salariés prennent connaissance de contrats signés à leur insu. Par exemple, en 2018, des lanceurs d'alerte et des journalistes d'investigation ont rendu publique l'implication de Google dans le projet Maven, une initiative du département américain de la Défense (DoD) qui utilise l'intelligence artificielle (IA) pour cibler les attaques de drones. Les employés de Google affirment que l'entreprise n'a jamais demandé leur consentement pour participer à ce projet et à d'autres projets de défense.

Néanmoins, en 2018, Google s'est retiré du projet Maven après qu'une pétition a été signée par des milliers d'employés, affirmant que l'entreprise ne devrait pas être dans le domaine de la guerre. De tels développements ont forcé certaines entreprises technologiques à prendre position sur la ligne à suivre. Par exemple, à la suite de son retrait du projet Maven, Google a publié des directives éthiques décrivant ses vues sur la recherche responsable en IA. La politique stipulait que l'entreprise ne construirait pas d'armes basées sur l'IA, mais n'excluait pas la poursuite des collaborations avec le secteur de la défense pour développer des capacités militaires non offensives.

Impact perturbateur

L'implication entre Big Tech et l'armée peut avoir des conséquences à long terme pour ces entreprises technologiques. En particulier, de nombreux pays considèrent de plus en plus les entreprises traditionnellement neutres comme Google ou Microsoft comme des alliés des organisations militaires américaines. Étant donné que ces entreprises sont désormais connues pour collaborer activement dans le secteur de la défense américain, les pays extérieurs hésitent à continuer à dépendre des Big Tech américaines pour le support logiciel et technique. Une hésitation similaire a été appliquée aux géants chinois de la technologie ; par exemple, les États-Unis, le Canada et de nombreux pays européens ont commencé à interdire les systèmes de télécommunications Huawei 5G par crainte de la surveillance du gouvernement chinois. 

De plus, certains employés à l'esprit libéral travaillant au sein de ces entreprises technologiques peuvent se sentir exploités au fil du temps. En particulier, les travailleurs de la génération Y et de la génération Z ont tendance à privilégier les pratiques commerciales éthiques et choisiront leurs employeurs en conséquence. Certains de ces jeunes employés peuvent même devenir des dénonciateurs et dévoiler des secrets, nuisant ainsi à la réputation de leur entreprise respective. 

Néanmoins, le DoD américain cherche à devenir plus transparent dans la manière dont il mène ses initiatives de recherche. Le Département exige désormais que les fournisseurs tiers publient leurs directives éthiques respectives en matière d'IA qui mettent clairement en évidence la manière dont ils supervisent les développements de l'apprentissage automatique. Big Tech met également en œuvre de manière agressive ses initiatives d'IA responsable. Par exemple, Facebook a créé son comité d'éthique (2018) pour s'assurer que les algorithmes et les nouvelles fonctionnalités ne sont pas biaisés. 

Implications de la Big Tech et de l'armée

Les implications plus larges d'un partenariat croissant entre Big Tech et le secteur de la défense peuvent inclure :

• Les pays dotés de secteurs technologiques développés obtiennent un avantage militaire plus profond sur leurs pairs moins développés dans le futur espace de combat. 
• Les employés de la technologie exigent que leurs entreprises respectives soient transparentes sur chaque projet sur lequel ils travaillent, y compris en révélant pleinement les parties prenantes.
• Plusieurs entreprises, comme Google, Microsoft et Amazon, se retirent de certains contrats militaires et d'application de la loi.
• Les organisations militaires se tournent vers de plus petites entreprises technologiques et des startups pour éviter tout examen minutieux.
• Des notations environnementales, sociales et de gouvernance (ESG) axées sur des mesures d'éthique pour garantir que les entreprises mettent en œuvre l'IA de manière responsable.
• Le développement croissant des capacités de guerre algorithmique, ainsi que des drones autonomes, des chars et des véhicules sous-marins pour une utilisation en temps de guerre.

Questions à considérer

• Si vous travaillez dans une entreprise technologique, comment votre entreprise met-elle en œuvre une IA responsable ?
• Comment Big Tech et l'armée peuvent-elles travailler ensemble de manière plus transparente et éthique ?