OpenAI a annoncé vendredi avoir déjoué une campagne d’influence iranienne qui utilisait ChatGPT pour générer de fausses informations et des publications sur les réseaux sociaux visant les Américains. L’entreprise a déclaré avoir identifié et banni des comptes générant du contenu pour cinq sites Web (en anglais et en espagnol) se faisant passer pour des organes de presse, diffusant des « messages polarisants » sur des questions telles que la campagne présidentielle américaine, les droits LGBTQ+ et la guerre à Gaza.
L’opération a été identifiée comme « Storm-2035 », faisant partie d’une série de campagnes d’influence que Microsoft a identifiées la semaine dernière comme « liées au gouvernement iranien ». En plus des publications d’actualités, elle comprenait « une douzaine de comptes sur X et un sur Instagram » liés à l’opération. OpenAI a déclaré que l’opération ne semblait pas avoir gagné de terrain significatif. « La majorité des publications sur les réseaux sociaux que nous avons identifiées ont reçu peu ou pas de likes, de partages ou de commentaires », a écrit l’entreprise.
OpenAI a également indiqué que sur l’échelle Breakout de la Brookings Institution, qui évalue les menaces, l’opération n’a obtenu qu’une note de catégorie 2 (sur une échelle de 1 à 6). Cela signifie qu’elle a montré « une activité sur plusieurs plateformes, mais aucune preuve que des personnes réelles ont récupéré ou largement partagé son contenu ».
OpenAI a décrit l’opération comme une création de contenu pour de faux médias conservateurs et progressistes, ciblant des points de vue opposés. Bloomberg Un autre a déclaré que le contenu suggérait que Donald Trump était « censuré sur les réseaux sociaux et qu’il était prêt à se proclamer roi des États-Unis ». Un autre a qualifié le choix de Tim Walz comme colistier par Kamala Harris de « choix calculé en faveur de l’unité ».
OpenAI a ajouté que l’opération avait également permis de créer du contenu sur la présence d’Israël aux Jeux olympiques et (dans une moindre mesure) sur la politique vénézuélienne, les droits des communautés latino-américaines et l’indépendance de l’Écosse. En outre, la campagne a parsemé le contenu lourd de commentaires sur la mode et la beauté, « peut-être pour paraître plus authentique ou pour tenter de se constituer une audience ».
« L’opération a tenté de jouer sur les deux tableaux, mais il semble qu’aucun des deux n’ait été impliqué », a déclaré Ben Nimmo, enquêteur d’OpenAI Intelligence and Investigations. Bloomberg.
L’échec d’une opération d’influence fait suite à la révélation, plus tôt cette semaine, que des pirates informatiques iraniens ont ciblé les campagnes de Harris et de Trump. Le FBI a déclaré que Roger Stone, conseiller informel de Trump, avait été victime d’e-mails de phishing. Les pirates iraniens ont ensuite pris le contrôle de son compte et ont envoyé des messages contenant des liens de phishing à d’autres personnes. Le FBI n’a trouvé aucune preuve que quiconque dans la campagne de Harris ait été victime de ce stratagème.