[FACT-CHECK] Les nouvelles méthodes de la désinformation pro-russe

Depuis février 2022, cette guerre informationnelle est menée en parallèle de l'offensive militaire russe en Ukraine, en mobilisant un arsenal désormais bien rodé pour diffuser des récits pro-Kremlin: création de faux médias, de sites internet, de fondations à façade indépendante, utilisation de fermes à trolls et de centaines de milliers de faux comptes ou encore de bots automatisés. 

A cette panoplie devenue classique se sont ajoutés plus récemment de nouveaux procédés.  

Vidéos impossibles à authentifier

Face au travail des fact-checkeurs, les acteurs de la désinformation ont notamment affiné leurs méthodes pour compliquer l'authentification des contenus vidéos.

Pour éviter d'usurper l'identité de personnes qui pourraient porter plainte ou faire retirer rapidement les contenus où elles apparaissent, les désinformateurs privilégient désormais des visages anonymes créés par IA ou issus de banques d’images pour créer leurs deepfakes mettant en scène de prétendus lanceurs d'alerte, impossibles à retrouver.

Un exemple récent: une vidéo diffusée le 19 septembre sur X, dans laquelle une prétendue "personal shopper" (conseillère en achats de vêtements) d'Olena Zelenska aurait dévoilé une tenue d'une valeur proche d'un million d'euros appartenant prétendument à l'épouse du président ukrainien Volodymyr Zelensky. L'AFP n'a pas pu identifier la femme filmée : les recherches via les outils PimEyes et FaceCheck renvoient à une simple photo de banque d’images, et selon bunker de luxe" mettait en scène un supposé ingénieur nommé "José Meier".

Ce visage avait déjà été utilisé dans une autre fausse vidéo sous le nom de "François Faivre", comme expliqué dans ce 2, témoins anonymes et masqués, prétendant appartenir à des cartels mexicains ou détenir des informations explosives, concernant notamment de prétendues ventes d'armes américaines par l'Ukraine. Là encore, aucune identification n'est possible, compliquant toute vérification de ces allégations. 


 

Les angles morts des IA

Une partie des campagnes de désinformation cherchent désormais principalement à saturer les moteurs de recherche avec de fausses informations, en partant du principe que les chatbots considèrent une affirmation comme fiable dès lors qu'elle est abondamment disponible en ligne.

Les modèles de langage (LLM) comme ChatGPT, Gemini ou Grok étant de plus en plus utilisés pour obtenir des réponses directes à des questions, sans consultation directe des sources utilisées, les internautes deviennent ainsi de plus en plus vulnérables aux infox, estiment plusieurs experts interrogés par l’AFP.  

"Les récits plus niches", portant sur des allégations non relayées par les médias et donc non réfutées quand elles sont fausses, "ont plus de chances d’être relayés par l’IA, parce qu’ils ne rencontrent pas de contre-discours structuré. Et donc, lorsqu’un chatbot tente de récupérer des informations à leur sujet, il les trouve principalement sur des sites douteux", explique Mykola Makhortykh, chercheur à l'Institut de Communication de l'Université de Berne.

Selon lui, la désinformation ciblant l’IA "n’a pas besoin d’être crédible pour un humain : il peut s’agir d’un mur de texte qui sera intégré aux données d’entraînement" des chatbots.

Un rapport de John Mark Dougan (lien archivé: 

Plus ces informations sont diversifiées, plus elles ont un effet d’amplification. Non seulement cela affecte l’amplification, mais cela affecte aussi l’IA future".