Le porno deepfake non consensuel de Taylor Swift est devenu viral sur X cette semaine, avec un message recueillant plus de 45 millions de vues, 24 000 reposts et des centaines de milliers de likes avant d’être supprimé.
La pop star possède l’une des bases de fans les plus dévouées, les plus en ligne et les plus incompréhensiblement massives au monde. Maintenant, les Swifties sont à la recherche de sang.
Lorsque les méga-fandoms s’organisent, ils sont capables de choses immenses, comme lorsque les fans de K-pop ont réservé des centaines de billets pour un rassemblement de Donald Trump dans le but de réduire la fréquentation. À l’approche de l’élection présidentielle américaine de 2024, certains experts ont même émis des théories sur le pouvoir des Swifties en tant que bloc électoral.
Mais aujourd’hui n’est pas le jour des élections, et les Swifties se concentrent sur quelque chose de plus immédiat : rendre les deepfakes non consensuels du musicien aussi difficiles à trouver que possible. Désormais, lorsque vous recherchez des termes tels que « Taylor Swift Ai » ou « Taylor Swift Deepfake » sur X, vous trouverez des milliers de messages de fans essayant d’enterrer le contenu généré par l’IA. Sur X, l’expression « PROTÉGER TAYLOR SWIFT » est populaire avec plus de 36 000 publications.
Parfois, ces campagnes menées par des fans peuvent dépasser les limites. Alors que certains fans s’encouragent mutuellement à doxer les utilisateurs X qui ont fait circuler les deepfakes, d’autres s’inquiètent de lutter contre le harcèlement par davantage de harcèlement, en particulier lorsque l’auteur présumé porte un nom relativement courant et que, dans certains cas, les Swifties pourraient s’en prendre au mauvais. gars. Avec autant de milliers de fans participant à la cause, il est inévitable que tous les Swiftie ne fassent pas partie du même front unifié – et certains sont plus en contact avec l’ère de la « Réputation » que d’autres.
Avec l’essor des outils d’IA générative accessibles, cette tactique de harcèlement est devenue si répandue que l’année dernière, le FBI et les forces de l’ordre internationales ont publié une déclaration commune sur la menace de sextorsion. Selon une étude de la société de cybersécurité Deeptrace, environ 96 % des deepfakes sont pornographiques et mettent presque toujours en scène des femmes.
« La pornographie deepfake est un phénomène qui cible exclusivement les femmes et leur nuit », indique le rapport. Ces abus se sont même infiltrés dans les écoles, où des filles mineures ont été ciblées par leurs camarades de classe avec des deepfakes explicites et non consensuels. Ainsi, pour certains fans de Taylor Swift, il ne s’agit pas seulement de protéger la star. Ils se rendent compte que ces attaques peuvent arriver à n’importe lequel d’entre eux, pas seulement aux célébrités, et qu’ils doivent se battre pour créer un précédent selon lequel ce comportement est intolérable.
« Elle prend le coup pour nous en ce moment, tous », a déclaré un utilisateur de TikTok nommé LeAnn dans une vidéo exhortant les utilisateurs à défendre Swift. « En la protégeant, vous allez vous protéger vous-même ainsi que vos filles. »
Selon 404 Media, les images proviennent d’un chat Telegram dédié à la création d’images explicites et non consensuelles de femmes à l’aide de l’IA générative. Le groupe demande à ses utilisateurs de générer des deepfakes d’IA sur le Designer de Microsoft ; bien que ce type de contenu viole la politique de Microsoft, son IA est toujours capable de le créer et les utilisateurs ont créé des solutions simples pour contourner les outils de sécurité de base.
Microsoft et X n’ont pas répondu à une demande de commentaires avant la publication.
Le Congrès fait des progrès législatifs pour criminaliser les deepfakes non consensuels. La Virginie a interdit la vengeance pornographique deepfake et la représentante Yvette Clarke (Démocrate-NY) a récemment réintroduit le DEEPFAKES Accountability Act, qu’elle avait proposé pour la première fois en 2019. Alors que les critiques s’inquiètent de la difficulté de légiférer sur les recoins sombres du Web, certains affirment que le projet de loi pourrait instituer au moins un précédent juridique de protection contre ces abus. Les fans de Swift ont également attiré l’attention sur les échecs de Ticketmaster, la méga-société de divertissement qui possède également Live Nation. Dans une déclaration particulièrement mémorable, la présidente de la FTC, Lina Khan, a déclaré l’année dernière que l’expérience désastreuse d’acheter des billets pour la tournée Eras de Swift « a fini par convertir du jour au lendemain plus de membres de la génération Z en anti-monopoles que tout ce que j’aurais pu faire ».
Cette campagne d’abus est emblématique des problèmes liés à la forte ascension de l’IA : les entreprises construisent trop vite pour évaluer correctement les risques des produits qu’elles expédient. Alors peut-être que les fans de Taylor Swift se lanceront dans la lutte pour une réglementation réfléchie des produits d’IA en développement rapide – mais s’il faut une campagne de harcèlement de masse contre une célébrité pour que des modèles d’IA sous-testés soient soumis à un examen minutieux, alors c’est un tout autre problème.