Même un bref aperçu involontaire de ce type d’images « sera supprimé et entraînera une application », écrit la société. Et si vous promouvez, créez ou partagez intentionnellement de la pornographie deepfake, c’est un motif d’instaban : cela « peut entraîner une suspension indéfinie à la première infraction ».
L’entreprise ne fait pas cela sur un coup de tête – comme Nouvelles de BuzzFeed et Nouvelles de la BNC rapporté le mois dernier, Twitch a récemment eu son propre scandale de deepfake. Le 30 janvier, le streamer Twitch Brandon « Atrioc » Ewing a laissé une fenêtre de navigateur ouverte en streaming qui aurait montré les visages de streameuses Twitch populaires, dont Pokimane, QTCinderella et Maya Higa, « greffées sur le corps de femmes nues », comme BuzzFeed le raconte. Dans un flux d’excuses en larmes, Atrioc a admis avoir visité un site deepfake par « curiosité morbide » pour les images. « Je viens de cliquer sur un putain de lien à 2h du matin, et la morale ne m’a pas rattrapé », a-t-il déclaré tout en promettant de ne plus jamais faire quelque chose comme ça.
Il n’est pas clair si Twitch a pris des mesures coercitives contre Atrioc à l’époque – la société n’a pas immédiatement répondu à une demande de vérification des faits – mais la nouvelle politique indique clairement qu’au moins certaines mesures seraient prises.
Twitch a tendance à réprimer les comptes partageant des images sexuelles, même lorsqu’ils se retrouvent accidentellement dans un flux en direct. Atrioc lui-même avait déjà été banni pour avoir montré un pénis flasque à l’écran, selon le site d’information en continu Win.gget Pokimane célèbre reçu un avertissement (pas une interdiction) après avoir accidentellement ouvert PornHub dans un onglet du navigateur. Mais la position précédente de Twitch sur les deepfakes était extrêmement limitée : elle ne les mentionnait que dans le contexte de « partager du contenu trafiqué ou artistique négatif pour abuser ou dégrader une autre personne. »
Twitch interdisait auparavant « la diffusion ou le téléchargement de contenu contenant des représentations de nudité réelle » et menaçait les instabans de « violence et exploitation sexuelles ».
À l’origine, QTCinderella avait juré de poursuivre le site porno deepfake qu’Atrioc avait porté à l’attention du monde, mais elle est depuis a déclaré à NBC News qu’elle a abandonné : « Tous les avocats à qui j’ai parlé sont arrivés à la conclusion que nous n’avons pas de dossier ; il n’y a aucun moyen de poursuivre le gars.