La modération laxiste du contenu sur X (alias Twitter) a perturbé les efforts coordonnés entre les sociétés de médias sociaux et les forces de l’ordre pour réprimer les « comptes de propagande contrôlés par des entités étrangères visant à influencer la politique américaine », a rapporté le Washington Post.
Désormais, la propagande « fleurit » sur X, a déclaré The Post, tandis que d’autres sociétés de médias sociaux sont coincées dans des cycles sans fin, voyant une partie de la propagande qu’elles bloquent proliférer sur X, puis inévitablement se propager sur leurs plateformes.
Meta, Google, puis Twitter ont commencé à coordonner leurs efforts de démantèlement avec des chercheurs chargés de l’application des lois et de la désinformation après que des campagnes d’influence soutenues par la Russie aient manipulé leurs plateformes dans l’espoir d’influencer l’élection présidentielle américaine de 2016.
L’année suivante, les trois sociétés ont promis au Congrès de travailler sans relâche pour empêcher la propagande soutenue par la Russie de se propager sur leurs plateformes. Les sociétés ont créé des politiques explicites de désinformation électorale et ont commencé à se réunir toutes les deux semaines pour comparer les notes sur les réseaux de propagande que chaque plateforme a découvertes, selon les entretiens du Post avec des sources anonymes ayant participé à ces réunions.
Cependant, après qu’Elon Musk a acheté Twitter et rebaptisé l’entreprise X, sa société s’est retirée de l’alliance en mai 2023.
Des sources ont déclaré au Post que le dernier participant à la réunion X était l’expert irlandais du renseignement Aaron Rodericks, qui aurait été sanctionné pour avoir aimé un message X qualifiant Musk de « connard ». Rodericks a ensuite été licencié lorsque Musk a licencié toute l’équipe d’intégrité électorale en septembre dernier, et après cela, X a apparemment complètement abandonné la réunion bihebdomadaire et « a tout simplement disparu », a déclaré une source au Post.
En 2023, par exemple, Meta a signalé 150 « comptes d’influence artificielle » identifiés sur sa plateforme, dont « 136 étaient encore présents sur X jeudi soir », selon l’analyse du Post. L’apparente surveillance de X s’étend à toutes les 123 « campagnes trompeuses basées en Chine » sauf huit, liées à des comptes signalés par Meta en mai, août et décembre derniers, a rapporté The Post.
Le rapport du Post fournit également une analyse exclusive du Stanford Internet Observatory (SIO), qui a révélé que 86 comptes de propagande signalés par Meta en novembre dernier « sont toujours actifs sur X ».
La majorité de ces comptes (81) étaient des comptes basés en Chine se faisant passer pour des Américains, a rapporté le SIO. Ces comptes extrayaient fréquemment des photos des profils LinkedIn des Américains, puis changeaient les noms des vrais Américains tout en publiant des articles sur la politique chinoise et américaine, ainsi que sur des personnes souvent tendance sur X, comme Musk et Joe Biden.
Meta a averti que les campagnes d’influence basées en Chine se « multiplient », a noté The Post, tandis que les normes de X restent apparemment trop souples. Même les comptes liés à des enquêtes criminelles restent actifs sur X. Un « compte accusé d’être géré par le ministère chinois de la Sécurité publique », a rapporté The Post, reste sur X bien que ses messages aient été cités par les procureurs américains dans une plainte pénale.
Les procureurs ont relié ce compte à des « dizaines » de comptes X tentant de « façonner la perception du public » à l’égard du Parti communiste chinois, du gouvernement chinois et d’autres dirigeants mondiaux. Les comptes commentent également des sujets brûlants comme le problème du fentanyl ou la brutalité policière, apparemment pour transmettre « un sentiment de consternation face à l’état de l’Amérique sans aucun penchant partisan clair », Elise Thomas, analyste pour une organisation à but non lucratif de Londres, a appelé l’Institute for Dialogue stratégique, a déclaré au Post.
Certains comptes X signalés par The Post comptaient plus d’un million d’abonnés. Cinq ont payé X pour vérification, suggérant que leurs campagnes de désinformation – ciblant les hashtags pour brouiller le discours sur la politique américaine – sont apparemment stimulées par X.
Renée DiResta, responsable de la recherche technique du SIO, a critiqué la décision de X de cesser de se coordonner avec d’autres plateformes.
« La présence de ces comptes renforce le fait que les acteurs étatiques continuent de tenter d’influencer la politique américaine en se faisant passer pour des médias et des compatriotes américains », a déclaré DiResta au Post. « Avant les élections de mi-mandat de 2022, les chercheurs et les équipes chargées de l’intégrité des plateformes collaboraient pour perturber les échanges étrangers. influencer les efforts. Cette collaboration semble au point mort, Twitter ne semble même pas s’adresser aux réseaux identifiés par ses pairs, et ce n’est pas génial.»
Musk a fermé l’équipe d’intégrité électorale de X parce qu’il revendiqué que l’équipe « portait atteinte » à l’intégrité des élections. Mais les analystes se préparent à des flots de désinformation qui influenceront les élections de 2024, car certaines grandes plateformes ont supprimé les politiques électorales en matière de désinformation, tout comme les progrès rapides des technologies d’IA ont rendu la propagation de la désinformation via le texte, les images, l’audio et la vidéo plus difficile à détecter pour l’individu moyen.
Dans un exemple frappant, un faux appelant automatisé s’est appuyé sur la technologie vocale de l’IA pour se faire passer pour Biden et dire aux démocrates de ne pas voter. Cet incident a apparemment poussé la Federal Trade Commission jeudi à proposer de pénaliser l’usurpation d’identité par l’IA.
Il semble évident que les comptes de propagande d’entités étrangères sur X utiliseront tous les outils disponibles pour surveiller leur contenu, s’attendant peut-être à ce que la plateforme de Musk soit la plus lente à les contrôler. Selon The Post, certains des comptes X diffusant de la propagande utilisent ce qui semble être des images de Biden et de Donald Trump générées par l’IA pour recueillir des dizaines de milliers de vues sur leurs publications.
Il est possible que X commence à resserrer la modération du contenu à mesure que les élections approchent. Hier, X a rejoint Amazon, Google, Meta, OpenAI, TikTok et d’autres grandes entreprises technologiques pour signer un accord visant à lutter contre « l’utilisation trompeuse de l’IA » lors des élections de 2024. Parmi les principaux objectifs identifiés dans « l’accord électoral d’AI » figurent l’identification de l’origine de la propagande, la détection de la manière dont la propagande se propage à travers les plateformes et « entreprendre des efforts collectifs pour évaluer et tirer des leçons des expériences et des résultats de la gestion » de la propagande.