X, le réseau social appartenant à Elon Musk anciennement connu sous le nom de Twitter, a finalement franchi une étape rudimentaire au niveau de la plateforme pour tenter de ralentir la diffusion de fausses images graphiques de Taylor Swift.
Samedi, les recherches sur X incluant le texte « Taylor Swift » ont renvoyé un message d’erreur indiquant : « Quelque chose s’est mal passé. Essayez de recharger. » Cependant, comme les utilisateurs l’ont souligné, X semble bloquer uniquement cette chaîne de texte spécifique ; une requête pour, par exemple, « Taylor AI Swift », est toujours autorisée sur X.
Concernant le changement visant à bloquer les recherches de Taylor Swift, Joe Benarroch, responsable des opérations commerciales de X, a déclaré dans une déclaration au Wall Street Journal : « Il s’agit d’une action temporaire et effectuée avec beaucoup de prudence alors que nous accordons la priorité à la sécurité sur cette question. »
Cette décision est intervenue plusieurs jours après que des images sexuellement explicites de Swift générées par l’IA soient devenues virales sur X, ainsi que sur d’autres plateformes Internet.
Vendredi, la SAG-AFTRA a publié une déclaration condamnant les fausses images de Swift comme étant « bouleversantes, nuisibles et profondément préoccupantes » et a déclaré que « le développement et la diffusion de fausses images – en particulier celles de nature obscène – sans le consentement de quelqu’un doivent être rendus illégaux ». Le PDG de Microsoft, Satya Nadella, dans une interview avec NBC News, a qualifié les fausses images pornographiques de Swift d' »alarmantes et terribles » et a déclaré que « nous devons agir » et que « quelle que soit votre position sur une question particulière, je pense que nous en bénéficions tous ». quand le monde en ligne est un monde sûr.
La Maison Blanche s’est également prononcée sur la question. Lorsqu’on lui a demandé si le président Biden soutiendrait une législation rendant illégale une telle pornographie générée par l’IA, la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a répondu : « Nous sommes alarmés par les informations sur la circulation d’images que vous venez de présenter… Il devrait y avoir une législation, évidemment, pour régler ce problème. »
Les deepfakes sexuellement explicites de Swift sont devenus viraux sur X le mercredi 24 janvier, générant plus de 27 millions de vues en 19 heures avant la suspension du compte qui a initialement publié les images, a rapporté NBC News.
Dans un message publié en fin de soirée le 25 janvier, l’équipe de sécurité de X a déclaré que la société « supprimait activement » toutes les images identifiées de nudité non consensuelle, qui, selon elle, étaient « strictement interdites » sur la plateforme.
« La publication d’images de nudité non consensuelle (NCN) est strictement interdite sur X et nous avons une politique de tolérance zéro à l’égard de ce type de contenu », a écrit le compte Safety on X dans un communiqué. poste. « Nos équipes suppriment activement toutes les images identifiées et prennent les mesures appropriées contre les comptes responsables de leur publication. Nous surveillons de près la situation pour garantir que toute nouvelle violation soit immédiatement corrigée et que le contenu soit supprimé. Nous nous engageons à maintenir un environnement sûr et respectueux pour tous les utilisateurs.