Quelque part en Iran , un réseau de militants échangeait des messages politiques et d'actualité avec un militant – surnommé « Parsa » – sur l'application de messagerie Telegram. Ils ignoraient qu'ils conversaient en réalité avec un agent d'intelligence artificielle qui avait imité le style du véritable militant grâce à un entraînement basé sur 8 400 messages Telegram authentiques.
Au lieu de « Parsa », ils communiquaient en réalité avec l'Organisation des Moudjahidines du peuple d'Iran (MEK), un groupe d'opposition islamiste-marxiste iranien largement considéré comme une secte.
D'après un rapport d'Anthropic publié le mois dernier, cette opération a été menée par quatre individus travaillant pour l'OMPI. Ils ont créé un agent d'intelligence artificielle nommé « Viktor » qui surveillait également des individus en Iran et inondait les réseaux sociaux de contenu pro-OMPI sous une étiquette « indépendante ».
Le rapport d'Anthropic met en lumière la manière dont les acteurs étrangers utilisent de plus en plus des outils d'intelligence artificielle tels que Claude et ChatGPT pour leurs opérations d'influence. Les agents d'IA comme Viktor sont des systèmes logiciels alimentés par de vastes modèles de langage capables de fonctionner de manière autonome. Nombre des actions décrites dans le rapport — comme la rédaction de rapports, la création de contenu et la compilation d'informations — s'apparentent à des tâches courantes similaires à celles effectuées par des millions d'Américains utilisant Claude et ChatGPT.
La plus grande surprise de ce rapport réside peut-être dans la mesure où les groupes et partenaires alignés sur les États-Unis ont adopté l'IA pour leurs opérations d'influence.
L'OMPI, par exemple, bénéficie d'un soutien notable au Congrès. L'année dernière, 230 membres de la Chambre des représentants ont coparrainé une résolution exhortant les États-Unis à soutenir le plan de l'OMPI concernant l'Iran. L'ancien conseiller à la sécurité nationale John Bolton , l'ancien vice-président Mike Pence et l'ancien maire de New York Rudy Giuliani ne sont que quelques exemples de personnalités politiques républicaines de premier plan qui ont pris la parole lors de rassemblements de l'OMPI, souvent moyennant des honoraires conséquents .
Un compte Instagram géré par « Viktor », lié aux Moudjahidine du peuple (MEK), revendique plus de 170 000 abonnés. Se présentant comme un compte d'information indépendant, il publie en réalité des contenus soutenant la position du MEK, notamment des vidéos faisant l'apologie de la guerre israélo-américaine contre l'Iran et s'attaquant à Reza Pahlavi, ancien prince héritier iranien et chef d'une faction d'opposition rivale. Ces vidéos cumulent parfois des centaines de milliers de vues. « Viktor » a également créé d'autres comptes Instagram comptant eux aussi des centaines de milliers d'abonnés, dont certains semblent avoir été fermés depuis.
L'OMPI, que les États-Unis considéraient comme une organisation terroriste étrangère jusqu'en 2012, était encore plus active sur Telegram pour tenter de recruter secrètement des personnes en Iran afin de soutenir son programme. Selon Anthropic, « Viktor » a infiltré plus de 500 groupes sur Telegram, puis a « regroupé ces cibles par ville, âge, profession, affiliation politique et antécédents judiciaires, afin d'adapter ses messages à chaque public ».
Craig Holman, lobbyiste auprès des pouvoirs publics pour Public Citizen , a expliqué dans un courriel adressé à RS que cela marque une nouvelle forme de tactique d'influence. « Ces récits de gouvernements étrangers utilisant l'IA pour manipuler l'opinion des instances législatives et du public reposent sur la source même de la tromperie par l'IA : la représentation mensongère d'une personne ou d'une entité réelle faisant ou disant quelque chose qu'elle n'a jamais fait. »
Cette étude de cas, ainsi que d'autres décrites dans des rapports similaires, révèlent que des acteurs étrangers prennent des mesures concrètes pour intégrer l'IA à leur arsenal afin de remporter la guerre de l'information. Par exemple, un rapport d'OpenAI publié la semaine dernière détaillait comment des opérateurs iraniens ont réussi à faire publier près de 100 articles dans différentes publications spécialisées en affaires internationales, sous de faux noms, grâce à ChatGPT. Ces articles, attribués à l'Iran, défendaient généralement une position hostile à une guerre contre l'Iran, avec des titres tels que « La politique américaine envers l'Iran est-elle en train d'être privatisée ? La question Jared Kushner » et « Le pari de Trump sur l'Iran a renforcé le régime qu'il était censé abattre ».
Le récent rapport d'OpenAI a également révélé que la Russie avait réussi à créer et à contrôler un faux groupe de réflexion, le « Centre de recherche sociale », avec du personnel réel sur place en Amérique latine, ignorant tout de leur collaboration avec la Russie. Les opérateurs russes utilisaient ChatGPT pour créer du contenu et rédiger des rapports internes. Parallèlement, le personnel, à son insu, menait de véritables entretiens avec des experts et publiait des articles de recherche, principalement sur les relations entre l'Inde et l'Amérique latine.
Bien que le compte X du Social Research Center ait été suspendu, le site web de l'organisation reste actif à l'heure où nous publions cet article. On y trouve une déclaration rejetant les affirmations d'OpenAI, les qualifiant de « factuellement inexactes et de tentative délibérée de discréditer un projet de recherche indépendant ».
Une autre étude de cas a révélé comment l'un des partenaires les plus proches de Washington au Moyen-Orient recourt à l'IA pour se dédouaner de son rôle dans une guerre civile sanglante.
Le « Deadshot » des Émirats arabes unis
Exemples de tweets publiés par des bots pro-Émirats arabes unis au sujet de la guerre civile soudanaise. (Capture d'écran via Anthropic.com)
Les autorités émiraties ont créé leur propre agent d'intelligence artificielle sur Claude, surnommé « Deadshot », et l'ont chargé de la tâche herculéenne de dissimuler le rôle des Émirats arabes unis dans la guerre civile soudanaise. Les Forces de soutien rapide (FSR), un groupe paramilitaire soudanais soutenu par les Émirats arabes unis, ont été accusées de manière crédible de nettoyage ethnique et de violences sexuelles. Une mission d'enquête de l'ONU a déclaré que les actions des FSR contre les communautés non arabes dans la région du Darfour, au Soudan, portaient les « caractéristiques d'un génocide ».
L'agent IA s'est immédiatement mis au travail pour préserver la réputation des Émirats arabes unis, ciblant notamment l'ONU. Selon un rapport d'Anthropic, « Deadshot » a usurpé l'identité d'une véritable organisation soudanaise de défense des droits humains et a rédigé des témoignages pour l'ONU, espérant ainsi influencer l'instance mondiale grâce à des « témoins locaux indépendants, plutôt qu'à la propagande officielle ».
Le rapport d'Anthropic présente des versions contradictoires quant au succès de cette initiative. À un moment donné, il indique ne pas pouvoir confirmer si le témoignage a atteint son public cible, bien qu'un résumé figurant ailleurs dans le rapport le décrive comme ayant été « prononcé lors d'une session publique du Conseil des droits de l'homme des Nations Unies ». Anthropic n'a pas répondu à notre demande de commentaires.
Deadshot a compilé des informations sur les critiques des Émirats arabes unis, créant des « dossiers de contre-responsabilisation » sur les rapporteurs spéciaux de l'ONU qui avaient critiqué le rôle des Émirats arabes unis au Soudan.
Les Émirats arabes unis ont également mené une campagne d'information plus vaste centrée principalement sur X. « Deadshot » a créé et géré un réseau d'environ 300 faux comptes sur les réseaux sociaux qui publiaient du contenu visant à imputer la responsabilité de la guerre civile soudanaise aux Frères musulmans, qui soutiennent les forces armées soudanaises contre les RSF.
Les publications elles-mêmes lancent souvent des appels humanitaires, cherchant à détourner la responsabilité de la guerre des RSF vers les Frères musulmans soudanais, que les États-Unis ont désignés comme organisation terroriste étrangère en début d'année. « Plus la guerre au Soudan s'éternise, plus la famine s'aggrave. Les analystes pointent du doigt les éléments islamistes radicaux qui soutiennent la poursuite des affrontements militaires au détriment des accords négociés », peut-on lire dans une publication sur X d'un utilisateur suivi par 27 000 personnes et que Anthropic identifie comme faisant partie de cette campagne coordonnée. Une autre publication sur X, provenant d'un utilisateur suivi par 119 000 personnes, affirme que le rôle des Frères musulmans soudanais dans le conflit « rend la fin de la guerre beaucoup plus difficile ».
Selon le rapport, l'opérateur a ordonné à Claude de mener une « opération transatlantique et régionale coordonnée pour démanteler les Frères musulmans à l'échelle mondiale » à des centaines de reprises.
Kholood Khair, directrice fondatrice du think tank Confluence Advisory, basé à Khartoum, a expliqué dans une interview accordée à RS que le conflit soudanais se déroule sur trois fronts : le champ de bataille, la table des négociations et l’espace informationnel – ce dernier prenant une importance croissante. « Ces publications sont soigneusement diffusées afin de tenter de récupérer le mouvement pro-démocratie et de dissimuler les véritables objectifs des Émirats arabes unis au Soudan », a déclaré Mme Khair. Elle a souligné que, si nombre de ces publications ne sont pas factuellement erronées, elles présentent un récit sélectif.
« L’IA est le prochain champ de bataille dans nombre de ces guerres, et la guerre au Soudan est clairement devenue un terrain d’essai, les Émirats arabes unis prenant une longueur d’avance », a ajouté Khair.