L’entreprise américaine Anthropic a mis en lumière une opération de ciblage d’experts des Nations Unies menée par les Émirats arabes unis en 2023. Cette révélation soulève des préoccupations majeures concernant l’utilisation de l’intelligence artificielle (IA) dans les conflits contemporains et la manipulation de l’information à grande échelle.
Les faits au cœur du dossier
Selon Anthropic, l’opération, dont elle attribue avec un « degré de certitude élevé » la responsabilité au gouvernement des Émirats arabes unis, visait initialement à cibler les Frères musulmans. L’objectif principal était également d’influencer la perception internationale du conflit soudanais. L’entreprise a identifié l’utilisation de l’agent d’IA Claude comme composant central de cette campagne. Anthropic a documenté la production de divers types de contenu, incluant des documents, des publications destinées aux réseaux sociaux et des témoignages présentés comme provenant d’acteurs locaux. Un dispositif spécifique reposait sur une personnalité virtuelle nommée « Deadshot », qui diffusait un appel à une « opération régionale et transatlantique coordonnée pour démanteler les Frères musulmans dans le monde entier ». Une autre initiative consistait à usurper l’identité d’une organisation non gouvernementale (ONG) soudanaise, permettant la rédaction de témoignages attribués à deux individus, destinés à être soumis aux Nations Unies comme s’ils provenaient de sources indépendantes. Anthropic a également mis en évidence la création de dossiers destinés à discréditer des rapporteurs de l’ONU ayant exprimé des critiques concernant le rôle présumé des Émirats arabes unis dans le conflit. L’opération a mobilisé l’utilisation d’environ 300 faux comptes sur les réseaux sociaux. Anthropic précise ne pas avoir pu confirmer la réception effective de ces témoignages ou de ces dossiers par leurs destinataires, ni établir si ces éléments avaient eu un impact sur des décisions politiques.
La Commission européenne a réagi à ces révélations en appelant les fournisseurs d’IA à « mettre de l’ordre dans leurs affaires » et à assurer un contrôle accru de leurs modèles avancés. Le porte-parole de la Commission, Thomas Regnier, a souligné les risques que ces technologies représentent pour la vérité et la prise de décision. L’affaire soudanaise est perçue comme une illustration concrète des dangers liés à l’utilisation de l’IA dans les conflits, révélant une nouvelle dimension de la guerre informationnelle. La production à grande échelle de contenus, la multiplication des identités numériques, la fabrication de témoignages et l’adaptation des messages à différents publics nécessitent désormais des ressources humaines considérables, facilitées par l’IA. Le danger réside dans la capacité à créer un environnement informationnel artificiel, où des faux témoins, des faux comptes, des faux documents et des contenus générés automatiquement peuvent donner l’illusion d’un mouvement réel. La complexité de la manipulation de l’information via l’IA soulève des questions fondamentales sur le contrôle de l’information et la frontière entre réalité et propagande.
L’opération menée par les Émirats arabes unis, telle qu’elle a été documentée par Anthropic, met en lumière les capacités croissantes de l’IA à être utilisée pour des opérations de désinformation sophistiquées. La nature industrielle de cette manipulation, avec l’utilisation de modèles d’IA avancés comme Claude, et l’exploitation à grande échelle de faux comptes sur les réseaux sociaux, représente un défi majeur pour la sécurité et la stabilité internationale. La réaction de la Commission européenne, axée sur le contrôle des modèles d’IA, témoigne de la gravité perçue de cette menace et de la nécessité d’une régulation urgente. L’affaire soudanaise soulève des interrogations plus larges sur la capacité des technologies de l’IA à altérer la perception de la réalité et à influencer les processus décisionnels à l’échelle mondiale. La question de la responsabilité des développeurs et des utilisateurs de ces technologies, ainsi que celle de la transparence et de la traçabilité des contenus générés par l’IA, sont désormais au cœur des débats.