Mardi, le gouvernement britannique a annoncé une nouvelle loi ciblant la création d’images deepfakes sexuellement explicites générées par l’IA. En vertu de la législation, qui n’a pas encore été adoptée, les contrevenants s’exposeront à des poursuites et à une amende illimitée, même s’ils ne partagent pas largement les images mais les créent dans l’intention de déstabiliser la victime. Le gouvernement positionne la loi dans le cadre d’un effort plus large visant à renforcer la protection juridique des femmes.
Au cours de la dernière décennie, l’essor de la technologie de synthèse d’images par apprentissage profond a permis aux utilisateurs d’un ordinateur grand public de créer de plus en plus facilement de la pornographie trompeuse en échangeant les visages des artistes avec ceux de quelqu’un d’autre qui n’a pas consenti à l’acte. Cette pratique a donné naissance au terme « deepfake » vers 2017, du nom d’un utilisateur de Reddit nommé « deepfakes » qui partageait du porno falsifié par l’IA sur le service. Depuis lors, le terme s’est développé pour englober des images et des vidéos entièrement nouvelles, entièrement synthétisées à partir de zéro, créées à partir de réseaux neuronaux entraînés sur les images de la victime.
Le problème n’est pas propre au Royaume-Uni. En mars, des faux nus de camarades de classe de collège en Floride ont conduit à des accusations contre deux garçons âgés de 13 et 14 ans. La montée en puissance des modèles de synthèse d’images open source comme Stable Diffusion depuis 2022 a accru l’urgence parmi les régulateurs américains de tenter de contenir ( ou du moins punir) l’acte de créer des deepfakes non consensuels. Le gouvernement britannique poursuit une mission similaire.
« En vertu de cette nouvelle infraction, ceux qui créent ces images horribles sans consentement s’exposent à un casier judiciaire et à une amende illimitée. Si l’image est ensuite partagée plus largement, les contrevenants pourraient être envoyés en prison », a déclaré le ministère britannique de la Justice dans un communiqué. « La nouvelle loi signifiera que si quelqu’un crée un deepfake sexuellement explicite, même s’il n’a pas l’intention de le partager mais veut simplement provoquer l’alarme, l’humiliation ou la détresse de la victime, il commettra une infraction pénale. »
L’année dernière, la loi controversée sur la sécurité en ligne a criminalisé le partage d’images deepfake non consensuelles. Le nouveau projet de loi, qui doit encore passer par le processus parlementaire avant d’être adopté, marquerait la première fois que la création de deepfakes sexuellement explicites d’adultes non consentants deviendrait illégale au Royaume-Uni (la distinction étant de partager ou de créer). Le gouvernement affirme que les lois existantes couvrent déjà la création de deepfakes sexuels d’enfants.
Le gouvernement cherche également à renforcer les lois existantes, autorisant des poursuites pour la création et la distribution de contenus deepfake, ce qui pourrait conduire à des sanctions plus sévères de la part du Crown Prosecution Service (CPS).
Dans un communiqué, la ministre de la Sauvegarde, Laura Farris, députée, a souligné la position du gouvernement en déclarant : « La création d’images sexuelles deepfake est méprisable et totalement inacceptable, que l’image soit partagée ou non. Cette nouvelle infraction envoie un message très clair selon lequel la création de ce matériel est immoral, souvent misogyne et un crime. »