Les États-Unis semblent prendre au sérieux la criminalisation de la pornographie deepfake après que des adolescents d’un lycée du New Jersey ont utilisé des générateurs d’images IA pour créer et partager de fausses images nues non consensuelles de camarades de classe en octobre dernier.
Mardi, le représentant Joseph Morelle (Démocrate de New York) a annoncé qu’il avait réintroduit la « Loi sur la prévention des Deepfakes of Intimate Images », qui vise à « interdire la divulgation non consensuelle d’images intimes modifiées numériquement ». En vertu de la loi proposée, toute personne partageant de la pornographie deepfake sans le consentement d’un individu risque des dommages pouvant aller jusqu’à 150 000 dollars et une peine d’emprisonnement pouvant aller jusqu’à 10 ans si le partage des images facilite la violence ou a un impact sur les procédures d’une agence gouvernementale.
L’espoir est que des sanctions sévères dissuaderont les entreprises et les particuliers de permettre la diffusion d’images troublantes. Il crée une infraction pénale pour le partage de pornographie deepfake « dans l’intention de harceler, d’ennuyer, de menacer, d’alarmer ou de causer un préjudice substantiel aux finances ou à la réputation de la personne représentée » ou avec « un mépris imprudent » ou « en sachant réellement » que les images nuire à l’individu représenté. Il permet également aux victimes de poursuivre les contrevenants devant un tribunal civil.
Le représentant Tom Kean (R-NJ), qui a coparrainé le projet de loi, a déclaré que « des garde-fous appropriés et la transparence sont essentiels pour favoriser un sentiment de responsabilité parmi les entreprises d’IA et les individus utilisant l’IA ».
« Essayez d’imaginer l’horreur de recevoir des images intimes ressemblant exactement à vous, ou à votre fille, ou à votre femme, ou à votre sœur, et vous ne pouvez pas prouver que ce n’est pas le cas », a déclaré Morelle. « La pornographie deepfake est une exploitation sexuelle, c’est abusif, et je suis étonné que ce ne soit pas déjà un crime fédéral. »
Dorota et Francesca Mani se sont jointes à Morelle pour faire pression en faveur de la criminalisation de la pornographie deepfake, qui ont passé les deux derniers mois à rencontrer les législateurs, a rapporté le Wall Street Journal. La mère et la fille ont vécu l’horreur décrite par Morelle lorsque le lycée du New Jersey a confirmé que Francesca, 14 ans, faisait partie des élèves ciblées l’année dernière.
« Ce qui est arrivé à moi et à mes camarades de classe n’était pas cool, et je ne peux pas simplement hausser les épaules et laisser tomber ça », a déclaré Francesca. « Je suis ici, debout et criant pour le changement, luttant pour des lois, afin que personne d’autre ne se sente aussi perdu et impuissant que moi le 20 octobre. »
Le bureau de Morelle a déclaré à Ars que « le plaidoyer de partenaires comme la famille Mani » est « essentiel pour attirer l’attention sur cette question » et amener le projet de loi « à être soumis au vote ».
Morelle a présenté la loi en décembre 2022, mais elle n’a pas été adoptée cette année-là ni en 2023. Il réintroduit la loi en 2024 après avoir apparemment obtenu plus de soutien lors d’une audience du sous-comité de surveillance de la Chambre sur les « progrès de la technologie Deepfake » en novembre dernier.
Lors de cette audience, de nombreux législateurs ont mis en garde contre les dangers des deepfakes générés par l’IA, citant une étude de la société néerlandaise d’IA Sensity, qui a révélé que 96 % des deepfakes en ligne sont des deepfakes pornographiques, dont la majorité cible les femmes.
Mais les législateurs ont également clairement indiqué qu’il est actuellement difficile de détecter les images générées par l’IA et de les distinguer des images réelles.
Selon une transcription de l’audience publiée par l’organisation de presse à but non lucratif Tech Policy Press, David Doermann, actuellement président par intérim du département d’informatique et d’ingénierie de l’Université de Buffalo et ancien directeur de programme à la Defense Advanced Research Projects Agency (DARPA), a déclaré aux législateurs que la DARPA travaillait déjà sur des outils avancés de détection des deepfakes, mais avait encore du travail à faire.
Pour soutenir des lois comme celle de Morelle, les législateurs ont demandé davantage de financement pour la DARPA et la National Science Foundation afin de contribuer aux efforts en cours visant à créer des outils de détection efficaces. Dans le même temps, le président Joe Biden, par le biais d’un décret radical sur l’IA, a préconisé des solutions telles que le filigrane des deepfakes. Le décret de Biden a également demandé au ministère du Commerce d’établir « des normes et des meilleures pratiques pour détecter le contenu généré par l’IA et authentifier le contenu officiel ».
Morelle s’efforce de faire adopter sa loi en 2024, avertissant que la pornographie deepfake affecte déjà une « génération de jeunes femmes comme Francesca », qui sont « prêtes à s’élever contre l’oppression systémique et à assumer leur pouvoir ».
Jusqu’à ce que le gouvernement fédéral trouve la meilleure façon d’empêcher le partage de deepfakes générés par l’IA, Francesca et sa mère prévoient de continuer à faire pression en faveur du changement.
« Nos voix sont notre arme secrète et nos paroles sont comme des bonus dans Fortnite », a déclaré Francesca. « Ma mère et moi militons pour créer un monde dans lequel la sécurité n’est pas seulement un espoir ; c’est une réalité pour tout le monde. »