John Mark Dougan s’est vanté devant le groupe que son processus de “blanchiment narratif”, une tactique qui consiste à diffuser de la désinformation par de multiples canaux pour en dissimuler l’origine étrangère, pouvait être instrumentalisée comme arme pour aider la Russie dans la guerre de l’information. Selon John Mark Dougan, cette tactique pourrait non seulement aider la Russie à étendre la portée de ses informations, mais aussi à corrompre les ensembles de données sur lesquels reposent les modèles d’intelligence artificielle.
“À l’heure actuelle, il n’existe pas de modèles d’IA vraiment efficaces pour amplifier les informations russes, car ils ont tous été formés à partir de sources médiatiques occidentales”, a déclaré John Mark Dougan lors de la table ronde, dont un enregistrement vidéo a été publié sur YouTube par un média russe. “Cela crée un biais pro-occidental, et nous devons commencer à former des modèles d’IA sans ce biais. Nous devons les former du point de vue russe”.
Le réseau Pravda semble s’engager activement dans cette pratique, en publiant systématiquement de multiples articles dans plusieurs langues à partir de différentes sources pour faire avancer le même récit de désinformation. En créant un volume important de contenus reprenant les mêmes fausses affirmations sur des sites web apparemment indépendants, le réseau maximise la probabilité que les modèles d’IA rencontrent et intègrent ces récits dans les données utilisées par les chatbots.
Le blanchiment de la désinformation fait qu’il est impossible pour les entreprises d’IA de simplement filtrer les sources étiquetées “Pravda”. Le réseau Pravda ajoute continuellement de nouveaux domaines, créant un jeu de piste difficile à suivre pour les développeurs d’IA. Même si les modèles étaient programmés pour bloquer tous les sites du réseau Pravda aujourd’hui, de nouveaux sites pourraient apparaître le lendemain.
Par ailleurs, le filtrage des domaines Pravda ne s’attaquerait pas à la désinformation sous-jacente. Comme indiqué plus haut, Pravda ne génère pas de contenu original, mais reprend des fausses affirmations provenant de médias d’État russes, d’influenceurs pro-Kremlin et d’autres sources de désinformation. Même si les chatbots bloquaient les sites du réseau Pravda, ils seraient toujours susceptibles d’ingérer les mêmes récits faux provenant de la source originale.
Cet effort apparent d’infiltration de l’IA s’inscrit dans une stratégie russe plus large visant à contester l’influence de l’Occident dans le domaine de l’IA. “Les moteurs de recherche et les modèles génératifs occidentaux fonctionnent souvent de manière très sélective et partiale, ne tiennent pas compte de la culture russe, voire l’ignorent et l’annulent”, a déclaré le président russe Vladimir Poutine lors d’une conférence sur l’IA qui s’est tenue le 24 novembre 2023 à Moscou.
Il a ensuite annoncé le projet de la Russie de consacrer davantage de ressources à la recherche et au développement de l’intelligence artificielle, en déclarant : “Nous parlons d’étendre la recherche fondamentale et appliquée dans le domaine de l’intelligence artificielle générative et des grands modèles de langage”.