Magazine Les Grands Dossiers de Diplomatie

Russie : de la guerre cognitive à une guerre ontologique

De la fast fashion de l’influence à la haute couture ?

Cette dichotomie entre ordre et chaos s’appuiera donc sur des déclinaisons du narratif général à même de s’adapter aux publics ciblés, passant en quelque sorte de la fast fashion ou du prêt-à-porter de l’influence, à la haute couture dessinée pour correspondre aux particularités. En ce sens, dès mars 2022, une campagne de mèmes déferlait sur l’Europe, mais surtout sur le continent africain et le Moyen-Orient en adaptant le discours, et les langues de diffusion. Si on parlait ici de double standard, on évoquait là la dispute du Cachemire, et ailleurs l’anticolonialisme et l’antimondialisme permettant de bénéficier d’une audience déjà sensible à ces sujets. Cette adaptation des narratifs est maintenant facilitée par les IA génératives, qui permettent de produire du texte très rapidement et à cout modique. Plus récemment, on a pu observer des actions menées simultanément dans le monde physique et numérique, notamment en utilisant des « agents jetables », personnes recrutées à peu de frais, pour réaliser des actions ne demandant pas un niveau de compétences élevé — comme réaliser des tags dans Paris —, actions qu’il sera alors aisé de médiatiser par l’intermédiaire de faux profils sur des réseaux sociaux, de faux articles de presse pouvant usurper l’identité de journaux — opération « Doppelgänger » — ou par l’entremise de sites dits « d’information » entièrement générés par IA.

Une adaptation aux technologies

On le voit, les méthodes se sont adaptées aux nouvelles technologies pour déployer des actions informationnelles à un niveau global et ontologique, car elles traversent les frontières géographiques d’une part et le monde numérique d’autre part, tout en jouant sur différentes lignes temporelles. Le travail sur le temps long se double d’une approche très opportuniste. En termes d’adaptations récentes, on peut noter la prise en compte de nouveaux terrains. À ce titre, les internautes ayant migré de X vers BlueSky ne se sont pas pour autant débarrassés des actions visant à les influencer : des opérations comme « Matriochka » se sont déployées simultanément sur X et BlueSky, même si le modèle de cette dernière plateforme a permis une rapide mise en lumière de l’action.

D’autres approches assez innovantes se font jour, comme l’usage de jeux vidéos pour conforter les perceptions des plus jeunes — quand ce sont Roblox et Minecraft qui sont utilisés (principalement à l’attention des population russophones) — ou des moins jeunes — quand on parle jeux de stratégie ou de survie comme African Dawn, déployé sur le continent africain l’été dernier (9), ou Hearts of Iron IV qui prenait place sur le territoire ukrainien.

Nous avons mentionné les sites générés par IA, qui peuvent rapidement être publiés en plus d’une quinzaine de langues en un temps très court (10). Il se trouve que ces sites, de même que les productions de contenus diffusés sur les réseaux sociaux, font partie des bases de données qui seront utilisées par les IA génératives (IAg) pour alimenter leur modèle. Cela participera à un processus d’autotrollling des technologies par leurs propres productions. Cet état de fait a bien été compris par des acteurs de désinformation comme la Russie, qui travaille à infiltrer les bases de données de ces outils utilisés par beaucoup d’entre nous comme moteurs de recherche, quand bien même ces modèles ne sont pas faits pour cet usage. 

L’empoisonnement des modèles d’IAg, comme les grands modèles de langage (LLM), augmente le risque d’exposer les internautes à des contenus trompeurs. Une étude a montré que lorsqu’on interroge les dix principales plateformes d’IAg sur un sujet lié à la guerre en Ukraine, dans 33 % des cas, les réponses contiennent des éléments de désinformation (11). Cette contamination peut être causée par l’introduction volontaire de fausses données dans les bases d’entrainement par des acteurs malveillants (comme des documents falsifiés), ou encore par la manipulation ciblée de certains ensembles de données utilisés pour affiner les modèles. Elle pourra aussi être frontale, les attaquants introduisant des informations ciblées dans les bases de données avant que les données légitimes n’arrivent, influençant le modèle qui donnera la priorité aux premiers arrivants. 

À propos de l'auteur

Christine Dugoin-Clément

Chercheuse à la chaire « Risques » de l’Institut d’administration des entreprises Paris-Sorbonne, à l’Observatoire de l’intelligence artificielle de Paris 1 Panthéon-Sorbonne et au centre de recherche de la Gendarmerie nationale.

0
Votre panier