Des images sexuellement explicites de Taylor Swift générées par l’IA ont circulé sur X (anciennement Twitter) au cours des derniers jours, dernier exemple de la prolifération de la fausse pornographie générée par l’IA et du défi qu’il y a à l’empêcher de se propager.
L’un des exemples les plus marquants sur X a attiré plus de 45 millions de vues, 24 000 republications et des centaines de milliers de likes et de favoris avant que l’utilisateur vérifié qui a partagé les images ne voie son compte suspendu pour violation de la politique de la plateforme. La publication était en ligne sur la plateforme pendant environ 17 heures avant sa suppression.
Mais alors que les utilisateurs commençaient à discuter de la publication virale, les images ont commencé à se propager et à être republiées sur d’autres comptes. Beaucoup restent debout, et un déluge de nouvelles contrefaçons graphiques est apparue depuis. Dans certaines régions, le terme « Taylor Swift AI » est devenu un sujet tendance, faisant la promotion des images auprès d’un public plus large.
Les fans de Swift spamment la plateforme pour dissimuler les contrefaçons explicites
La base de fans de Swift a critiqué X pour avoir permis à de nombreux messages de rester en ligne aussi longtemps qu’ils l’ont été. En réponse, les fans ont réagi en inondant les hashtags utilisés pour faire circuler les images avec des messages qui font plutôt la promotion de vrais clips de Swift en train de jouer pour cacher les contrefaçons explicites.
L’incident témoigne du défi très réel que représente l’arrêt du porno deepfake et des images de personnes réelles générées par l’IA. Certains générateurs d’images d’IA ont mis en place des restrictions qui empêchent la production d’images nues, pornographiques et photoréalistes de célébrités, mais beaucoup d’autres n’offrent pas explicitement un tel service. La responsabilité d’empêcher la propagation de fausses images incombe souvent aux plateformes sociales – ce qui peut être difficile à faire dans le meilleur des cas et encore plus difficile pour une entreprise comme X qui a vidé ses capacités de modération.
L’entreprise fait actuellement l’objet d’une enquête de la part de l’UE concernant des allégations selon lesquelles elle serait utilisée pour « diffuser des contenus illégaux et de la désinformation » et serait interrogée sur ses protocoles de crise après que des informations erronées sur la guerre entre Israël et le Hamas aient été promues sur la plateforme.