Robots de propagande : une armée d'agitateurs numériques

• Auteur :
• Nom de l'auteur

  Prévision quantique
• 26 octobre 2022

Résumé des informations

À l’ère des médias sociaux, les robots en ligne sont devenus un outil de plus en plus courant de diffusion de propagande. Ces robots sont des comptes automatisés conçus pour imiter de vraies personnes et peuvent être utilisés pour influencer la politique et l’actualité en diffusant de la désinformation. Les implications à long terme de l’utilisation accrue de ces robots pourraient inclure des entreprises et des partis politiques qui les utiliseraient pour manipuler l’opinion publique et des comptes de médias sociaux plus synthétiques attisant les flammes de débats et de politiques controversés.

Contexte des bots de propagande

Un robot utilise un logiciel d'intelligence artificielle (IA) et peut effectuer de manière autonome des actions telles que partager des messages, repartager, aimer, suivre, ne plus suivre ou envoyer directement des messages à divers comptes sur une plateforme multimédia. En raison de la variété des applications logicielles d’IA, les médias et les mouvements sociaux ont adapté cette technologie pour accroître l’interaction et la portée auprès des bases de membres. Les robots de propagande ont gagné en popularité parmi les gouvernements, les organisations et les groupes activistes voyous, car les plateformes logicielles qui les créent et les gèrent sont devenues de plus en plus accessibles et faciles à utiliser.

Ces robots sont très polyvalents et programmables, ce qui les rend particulièrement efficaces pour influencer l'opinion publique en ciblant des communautés spécifiques. Les robots peuvent diffuser de fausses informations sur les candidats et les enjeux ou harceler des personnes ayant des opinions opposées. En outre, ils peuvent créer de faux profils sur les réseaux sociaux pour obtenir un soutien à un candidat ou à une cause particulière. En particulier, la plateforme de médias sociaux Twitter est devenue le refuge de ces robots, car le site se prête bien aux messages courts et écrits. 

Des bots de propagande ont été déployés dans plusieurs campagnes politiques de haut niveau, notamment l'élection présidentielle américaine et le référendum britannique sur le Brexit en 2016. Dans les deux cas, les bots ont répandu la désinformation et semé la discorde parmi les électeurs. Bien que les robots de propagande ne se limitent pas aux pays autoritaires, ils sont répandus dans les endroits où la liberté d'expression est limitée. Dans ces pays, le gouvernement utilise souvent des robots pour contrôler la population et réprimer les protestations et la dissidence. Les exemples sont la Chine et la Russie, qui inondent souvent leurs réseaux Internet très restreints avec du contenu à tendance gouvernementale utilisant des algorithmes d'intelligence artificielle (IA) et d'apprentissage automatique (ML).

Impact perturbateur

Certains développements importants qui ont permis l'essor des robots de propagande sont la compétence croissante de l'IA pour générer du texte et la popularité croissante des chatbots sur les réseaux sociaux. Les logiciels de génération de texte sont suffisamment sophistiqués pour tromper de nombreuses personnes la plupart du temps. Le logiciel de génération de texte peut rédiger des éditoriaux influents sur des questions nationales très complexes ou parler aux consommateurs sur les sites Web des marchands. Ces bots sont même utilisés par des sites Web qui prétendent être des sources d'information locales légitimes mais qui fournissent de la désinformation (également connue sous le nom de journalisme à la bave rose).

En 2017, la Federal Communications Commission (FCC) des États-Unis a reçu plus de 22 millions de commentaires dans son appel à l'opinion publique concernant la neutralité du net. Environ la moitié des commentaires semblaient être frauduleux, utilisant des identités volées. Ces commentaires étaient simplistes; environ 1.3 million ont été produits à partir du même modèle, certains mots ayant été modifiés pour apparaître différents. 

Alors qu'en 2020, le chercheur de l'Université de Harvard, Max Weiss, a créé un logiciel de génération de texte pour écrire 1,000 XNUMX commentaires sur un appel du gouvernement concernant le programme national d'assurance maladie Medicaid. Weiss a mené cette étude pour prouver à quel point il était facile de programmer des robots de propagande. Les commentaires étaient tous uniques et crédibles, à tel point que les administrateurs de Medicaid pensaient qu'ils étaient réels. Weiss a ensuite informé Medicaid des recherches qu'il effectuait et a fait supprimer les commentaires pour éviter que tout débat politique ne devienne biaisé. 

Implications des robots de propagande

Les implications plus larges des robots de propagande peuvent inclure : 

• Les entreprises utilisent des robots de propagande pour créer un contenu de relations publiques précieux afin de restaurer leur réputation d'entreprise.
• De plus en plus de cas de SMS et d'e-mails personnalisés aidant les cybercriminels à commettre des vols d'identité, des fraudes et du phishing.
• Particuliers louant des robots de propagande à des fins personnelles ; par exemple, utiliser des bots pour augmenter le nombre de followers sur les réseaux sociaux et harceler les gens en ligne.
• Des volumes plus élevés de personnes pilotées par l'IA envoient des lettres aux journaux et aux élus, soumettent des commentaires individuels aux processus publics d'élaboration de règles et discutent de questions politiques sur les réseaux sociaux.
• Les gouvernements tentent de mettre en œuvre une législation de modération plus stricte sur les entreprises Big Tech pour réglementer l'utilisation et la création de bots.
• Les entreprises s'adaptent aux capacités de surveillance des robots de propagande, conduisant à une surveillance améliorée de la productivité des employés et du comportement des clients.
• Le scepticisme des consommateurs s’intensifie à mesure qu’il devient difficile de faire la distinction entre le contenu authentique et celui généré par des robots, ce qui a un impact sur la confiance dans la marque et sur l’efficacité du marketing.
• Les décideurs politiques sont confrontés au dilemme de trouver un équilibre entre la liberté d’expression et la nécessité de lutter contre la désinformation, influençant ainsi la portée de la législation sur les plateformes de communication numérique.

Questions à considérer

• Comment les personnes et les organisations peuvent-elles se protéger de s'engager sans le savoir dans un discours avec des robots de propagande ?
• Sinon, comment les bots vont-ils changer le débat public et la discussion ?
• Quelles sont les rencontres récentes que vous avez eues avec des robots de propagande sur les réseaux sociaux ?