X a confirmé qu’il empêchait les utilisateurs de rechercher le nom de Taylor Swift après que des deepfakes pornographiques de l’artiste aient commencé à circuler sur la plateforme cette semaine. Les visiteurs du site ont commencé à remarquer samedi que certaines recherches contenant le nom de Swift ne renvoyaient qu’un message d’erreur. Dans une déclaration au le journal Wall Street Samedi soir, Joe Benarroch, responsable des opérations commerciales de X, a déclaré : « Il s’agit d’une action temporaire et réalisée avec beaucoup de prudence alors que nous accordons la priorité à la sécurité sur ce problème. » Cette étape intervient quelques jours après que le problème soit devenu connu.
La manière dont X a traité le problème dès le début a suscité des critiques selon lesquelles il aurait mis du temps à freiner la diffusion d’images non consensuelles et sexuellement explicites. Après que les images soient devenues virales mercredi, les fans de Swift ont pris les choses en main pour limiter leur visibilité et les faire supprimer, signalant en masse les comptes qui partageaient les images et inondant les hashtags relatifs au chanteur de contenu positif, Actualités NBC signalé plus tôt cette semaine. De nombreux comptes incriminés ont ensuite été suspendus, mais pas avant d’avoir été consultés dans certains cas des millions de fois. Le bord a rapporté jeudi qu’un message avait été vu plus de 45 millions de fois.
Dans une déclaration publiée sur sa plateforme plus tard dans la journée, X a déclaré : « La publication d’images de nudité non consensuelle (NCN) est strictement interdite sur X et nous avons une politique de tolérance zéro à l’égard de ce type de contenu. Nos équipes suppriment activement toutes les images identifiées et prennent les mesures appropriées contre les comptes responsables de leur publication. Nous surveillons de près la situation pour garantir que toute nouvelle violation soit immédiatement corrigée et que le contenu soit supprimé. Nous nous engageons à maintenir un environnement sûr et respectueux pour tous les utilisateurs.
Mais il était encore possible de retrouver les images quelques jours après. 404Médias a retracé l’origine probable des images jusqu’à un groupe Telegram connu pour créer des images non consensuelles de femmes générées par l’IA à l’aide d’outils gratuits, notamment Microsoft Designer. Dans une interview avec Actualités NBC Vendredi, Lester Holt, le PDG de Microsoft, Satya Nadella, a déclaré que ce problème mettait en évidence la responsabilité de l’entreprise et « tous les garde-fous que nous devons placer autour de la technologie afin qu’un contenu plus sûr soit produit ». Il a continué en disant qu’« il y a beaucoup à faire là-bas, et beaucoup de choses sont faites là-bas », mais a également noté que l’entreprise doit « aller vite ».