Alors que la première plateforme de streaming au monde, Twitch, continue de croître, les problèmes qu’elle rencontre avec divers types de mauvais comportements augmentent également. 2022 était probablement l’année la plus dramatique de l’histoire de Twitch (s’ouvre dans un nouvel onglet)et 2023 a commencé avec une autre race de scandale profondément grossier : le streamer populaire Atrioc a visité un soi-disant site Web deepfake en direct, qui présentait des images explicites et truquées de streamers féminins, dont Maya Higa et Pokimane.
Atrioc s’est par la suite excusé (s’ouvre dans un nouvel onglet) et s’est éloigné du streaming pendant un certain temps, mais le mal était fait et la détresse qu’il a causée aux streamers présentés sur le site Web était publique et claire à voir. Twitch a maintenant décrit comment il prévoit de traiter les incidents de « deepfake porn » (s’ouvre dans un nouvel onglet)à la fois sur et hors de la plate-forme, et commence par aborder le terme lui-même.
L’expression « deepfake porn » a acquis une grande popularité, mais suite aux conseils d’experts tels que Danielle Keats Citron (professeur de droit et vice-présidente de la Cyber Civil Rights Initiative) et la UK Revenge Porn Helpline, Twitch désignera ce matériel comme « synthétique non- images d’exploitation consensuelles » ou « NCEI synthétiques ». Le raisonnement est le suivant :
« Appeler le contenu synthétique du NCEI » pornographie « est incorrect. Le porno (bien qu’interdit sur Twitch) devrait être consensuel et devrait présenter des personnes qui savent qu’elles participent à des activités que d’autres vont voir. Ce n’est pas ce qui se passe ici, et pourquoi c’est important, nous insistons sans équivoque sur le fait que ce contenu est créé sans consentement. »
Ceci est d’ailleurs quelque peu similaire à ce qui se passe actuellement avec le terme « revenge porn », que les experts dans le domaine de l’abus ont contesté : notamment parce que la « vengeance » implique que la victime a fait quelque chose pour le mériter. Dans ce cas, la terminologie préférée dans le domaine est désormais « abus basé sur l’image », plus clinique et précise quant à la nature de l’infraction et avec moins d’implication de blâme pour la victime.
Enfin, en ce qui concerne la terminologie, Twitch souligne que « deepfake » est en quelque sorte un mot à la mode contemporain mais pas nécessairement une description précise des méthodes utilisées pour générer un contenu comme celui-ci.
Tout cela est important parce que la langue est la pierre angulaire de la politique. Le NCEI synthétique est interdit par les politiques actuelles de Twitch et continuera bien sûr à l’être, mais le libellé de deux politiques de site va être modifié à la lumière des événements de janvier :
1. Nous mettons à jour notre politique sur la violence et l’exploitation sexuelles des adultes pour qu’il soit plus clair que la promotion, la création ou le partage intentionnels de NCEI synthétiques peuvent entraîner une suspension indéfinie à la première infraction.
2. Nous mettons à jour notre politique sur la nudité adulte pour inclure le NCEI synthétique. Même si ce NCEI n’est montré que brièvement, ou, par exemple, montré pour exprimer votre indignation ou votre désapprobation du contenu, il sera supprimé et entraînera une application.
Twitch va maintenant organiser un camp de créateurs le 14 mars pour recueillir d’autres points de vue de la communauté et des experts sur la façon de traiter ces problèmes à l’avenir. Il sera dirigé par Zara Ward, experte en NCEI et responsable de la ligne d’assistance Revenge Porn, ainsi qu’une streameuse elle-même et des membres de l’équipe de sécurité de Twitch. Twitch a également assemblé une liste de ressources (s’ouvre dans un nouvel onglet) cela devrait être un premier port d’escale pour toute personne touchée par le NCEI synthétique.
Le contenu « deepfake » explicite n’a pas sa place sur Twitch, ni ailleurs. Pour aider à protéger les femmes streameuses, nous organisons un Creator Camp le 14 mars avec plus de ressources et de moyens de rester en sécurité. Lisez notre mise à jour à la communauté avec plus d’informations ici: https://t.co/KAH4zUTSBp pic.twitter.com/Q01sLolGJP7 mars 2023
Ce sont évidemment des technologies naissantes et peuvent être utilisées pour des choses autres que le NCEI synthétique, et une grande partie de ce que les gens créent avec eux va être amusant ou bizarre ou innocent plutôt qu’horrible. Twitch entre quelque peu dans l’inconnu en adoptant une approche proactive pour y faire face et reconnaît qu’en dehors des choses manifestement horribles, il y aura des incidents avec plus de nuances : « Tous les contenus créés synthétiquement ne sont pas de nature sexuelle. , et tout cela n’est pas non plus non consensuel […] Mais une chose est claire : lorsqu’il est utilisé pour créer un NCEI synthétique, cette nuance disparaît. La création, la promotion ou la visualisation de ce contenu n’est pas la bienvenue sur Twitch. »
Les nouvelles politiques doivent être mises en œuvre ce mois-ci. Après le camp des créateurs, Twitch promet d’autres mises à jour sur l’évolution de son approche. Ce sera un domaine intéressant à surveiller, non pas pour les choses manifestement odieuses qui sont explicitement abordées ici, mais pour le contenu plus dépendant de l’IA sur Twitch qui peut être plus difficile à analyser. Cette année a également vu le début d’un spectacle AI Seinfeld qui a duré quelques jours avant d’être suspendu pour une blague (s’ouvre dans un nouvel onglet) certains les considéraient comme homophobes et transphobes ; tandis que d’autres l’ont vu comme une méta-blague visant des diatribes pas drôles sur les personnes trans et l’agenda gay. Bienvenue dans notre avenir de l’IA : c’est un gâchis.