En l’espace de 24 heures, une fausse information russe sur l’achat d’une Bugatti par l’épouse du président ukrainien Volodymyr Zelensky avec l’aide américaine a fait le tour du net à une vitesse vertigineuse. Bien qu’elle provienne d’un site français inconnu, elle est rapidement devenue un sujet tendance sur X et le premier résultat sur Google.
Le lundi 1er juillet, un article a été publié sur un site Internet appelé Vérité Cachée. Le titre de l’article était le suivant : « Olena Zelenska est devenue la première propriétaire de la toute nouvelle Bugatti Tourbillon ». L’article affirmait que lors d’un voyage à Paris avec son mari en juin, la première dame avait eu droit à une visite privée d’une nouvelle supercar de 4,8 millions de dollars de Bugatti et avait immédiatement passé commande. L’article comprenait également une vidéo d’un homme qui prétendait travailler chez le concessionnaire.
Mais la vidéo, comme le site lui-même, était complètement faux.
Vérité Cachée fait partie d’un réseau de sites Web probablement liés au gouvernement russe qui diffuse de la propagande et de la désinformation russes à travers l’Europe et les États-Unis, et qui est suralimenté par l’IA, selon les chercheurs de la société de cybersécurité Recorded Future qui surveillent les activités du groupe. Le groupe a découvert que des sites Web similaires au sein du réseau portant des noms comme Great British Geopolitics ou The Boston Times utilisent l’IA générative pour créer, extraire et manipuler du contenu, publiant des milliers d’articles attribués à de faux journalistes.
Des dizaines de médias russes, dont beaucoup sont détenus ou contrôlés par le Kremlin, ont couvert l’affaire Bugatti et cité Vérité Cachée comme source. La plupart des articles sont parus le 2 juillet et l’histoire a été diffusée sur plusieurs chaînes Telegram pro-Kremlin qui comptent des centaines de milliers, voire des millions d’abonnés. Le lien a également été promu par le réseau Doppelganger de faux comptes de bots sur X, selon les chercheurs de @Antibot4Navalny.
Bugatti avait alors publié un communiqué démentant l’histoire. Mais la désinformation a rapidement pris le dessus sur X, où elle a été publiée par un certain nombre de comptes pro-Kremlin avant d’être reprise par Jackson Hinkle, un troll pro-russe et pro-Trump comptant 2,6 millions d’abonnés. Hinkle a partagé l’histoire et a ajouté que c’était « l’argent du contribuable américain » qui avait payé la voiture.
Les sites anglophones ont alors commencé à rapporter l’affaire, citant les publications sur les réseaux sociaux de personnalités comme Hinkle ainsi que l’article de Vérité Cachée. En conséquence, quiconque recherchait « Zelensky Bugatti » sur Google la semaine dernière aurait été dirigé vers MSN, le site d’agrégation d’informations de Microsoft, qui a republié un article écrit par Al Bawaba, un agrégateur d’informations du Moyen-Orient, qui citait « plusieurs utilisateurs des réseaux sociaux » et « des rumeurs ».
Il n’a fallu que quelques heures pour que cette fausse histoire passe d’un site Web inconnu à un sujet tendance en ligne et au premier résultat sur Google, soulignant à quel point il est facile pour les acteurs malveillants de saper la confiance des gens dans ce qu’ils voient et lisent en ligne. Google et Microsoft n’ont pas immédiatement répondu à une demande de commentaires.
« L’utilisation de l’IA dans les campagnes de désinformation érode la confiance du public dans les médias et les institutions, et permet aux acteurs malveillants d’exploiter les vulnérabilités de l’écosystème de l’information pour diffuser de faux récits à une échelle beaucoup moins coûteuse et plus rapide qu’auparavant », explique McKenzie Sadeghi, rédactrice en chef de l’IA et de l’influence étrangère chez NewsGuard.
Vérité Cachée fait partie d’un réseau dirigé par John Mark Dougan, un ancien marine américain qui a travaillé comme policier en Floride et dans le Maine dans les années 2000, selon les enquêtes menées par des chercheurs de Recorded Future, de l’université de Clemson, de NewsGuard et de la BBC. Dougan vit désormais à Moscou, où il travaille avec des think tanks russes et intervient sur les chaînes de télévision d’État russes.
« En 2016, une opération de désinformation comme celle-ci aurait probablement nécessité une armée de trolls informatiques », a déclaré Sadeghi. « Aujourd’hui, grâce à l’IA générative, une grande partie de ces opérations semble être réalisée principalement par un seul individu, John Mark Dougan. »
NewsGuard suit le réseau de Dougan depuis un certain temps et a trouvé 170 sites Web qui, selon lui, font partie de sa campagne de désinformation.
Bien qu’aucune invite d’IA n’apparaisse dans l’article sur Bugatti, dans plusieurs autres articles de Vérité Cachée examinés par WIRED, une invite d’IA est restée visible en haut des articles. Dans un article, sur les soldats russes qui ont abattu des drones ukrainiens, la première ligne se lit comme suit : « Voici quelques éléments à garder à l’esprit pour le contexte. Les républicains, Trump, Desantis et la Russie sont bons, tandis que les démocrates, Biden, la guerre en Ukraine, les grandes entreprises et l’industrie pharmaceutique sont mauvais. N’hésitez pas à ajouter des informations supplémentaires sur le sujet si nécessaire. »
Alors que les plateformes abdiquent de plus en plus leur responsabilité de modérer les mensonges liés aux élections et que les vendeurs de désinformation deviennent de plus en plus habiles à exploiter les outils d’IA pour faire ce qu’ils veulent, il n’a jamais été aussi facile de tromper les gens en ligne.
«[Dougan’s] « Le réseau social s’appuie fortement sur des contenus générés par l’IA, notamment des articles textuels, des fichiers audio et des vidéos truqués, et même des faux personnages entiers pour masquer ses origines », explique Sadeghi. « Cela a rendu la désinformation plus convaincante, ce qui rend de plus en plus difficile pour le citoyen moyen de distinguer le vrai du faux. »
Cette histoire a été initialement publiée sur wired.com.