Twitch interdit déjà les images et les vidéos deepfake explicites, mais il adopte aujourd’hui une position plus dure à leur encontre. Le service de diffusion en direct met à jour sa politique sur la nudité adulte pour inclure une interdiction des NCEI synthétiques (images d’exploitation non consensuelles), même si elles ne sont montrées que brièvement ou pour critiquer son existence. Il révise également ses politiques en matière de violence et d’exploitation sexuelles pour préciser que la fabrication et le partage intentionnels de deepfakes non consensuels peuvent entraîner une interdiction dès la première infraction.
Les changements de politique devraient entrer en vigueur au cours du mois prochain. La société espère que la clarté accrue et le langage modernisé dissuaderont les contrevenants potentiels. La société organise un Creator Camp virtuel avec l’experte NCEI Zara Ward le 14 mars pour aider à repérer et à traiter les deepfakes malveillants. Nous avons demandé à l’entreprise si elle prévoyait de détecter les deepfakes au fur et à mesure qu’ils apparaissent, et nous vous ferons savoir si nous avons une réponse.
La mise à jour intervient après un incident au cours duquel le streamer bien connu Atrioc a brièvement montré un onglet de navigateur avec un site Web vendant l’accès à des deepfakes de streamers féminins Twitch, y compris certains créateurs de haut niveau. Atrioc s’est depuis excusé et dit qu’il n’était que « curieusement morbide », mais cela a quand même mis les diffuseurs et les téléspectateurs en colère. Aucune des femmes n’a consenti à ces images.
Les femmes sur Twitch ne sont pas étrangères au harcèlement, y compris les brigadiers qui tentent de les faire interdire pour avoir prétendument enfreint les politiques interdisant le contenu sexuellement suggestif. Twitch a ajouté plus d’outils pour décourager le harcèlement et la pêche à la traîne, mais les critiques l’ont également accusé de mettre en œuvre des directives déroutantes qui permettent les abus et obligent les femmes à s’habiller de manière conservatrice.
Les deepfakes peuvent être utilisés à des fins positives, telles que des vidéos musicales intelligentes. Cependant, les versions non consensuelles restent un problème et ont provoqué des mesures de répression gouvernementales. Les États et les pays comme le Royaume-Uni adoptent ou rédigent des lois qui criminalisent le partage de tels deepfakes. À cet égard, Twitch ne fait qu’ajouter un autre mécanisme pour aider à limiter la diffusion de ce contenu.