Les législateurs américains ont proposé de permettre aux gens de poursuivre en justice pour de fausses images pornographiques d’eux-mêmes, à la suite de la diffusion de photographies explicites de Taylor Swift générées par l’IA. La loi DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits) ajouterait un droit d’action civil pour les « contrefaçons numériques » intimes représentant une personne identifiable sans son consentement, permettant aux victimes de percevoir des dommages financiers auprès de toute personne ayant « sciemment produit ou possédé » le image dans le but de la diffuser.
Le projet de loi a été présenté par le whip de la majorité sénatoriale Dick Durbin (D-IL), rejoint par les sénateurs Lindsey Graham (R-SC), Amy Klobuchar (D-MN) et Josh Hawley (R-MO). Il s’appuie sur une disposition du Loi de 2022 portant réautorisation de la loi sur la violence à l’égard des femmesqui a ajouté un droit d’action similaire pour non-fausses images explicites. Dans un résumé, les sponsors l’ont décrit comme une réponse à un volume croissant « exponentiel » d’images explicites d’IA manipulées numériquement, faisant référence au cas de Swift comme un exemple de la façon dont les contrefaçons peuvent être « utilisées pour exploiter et harceler les femmes – en particulier les personnalités publiques, les politiciens ». , et des célébrités.
Les images pornographiques manipulées par l’IA, souvent appelées deepfakes, ont gagné en popularité et en sophistication depuis la création du terme. inventé en 2017. Les outils d’IA générative disponibles dans le commerce les ont rendus beaucoup plus faciles à produire, même sur des systèmes dotés de garde-fous contre les images explicites ou l’usurpation d’identité, et ils ont été utilisés à des fins de harcèlement et de chantage. Mais jusqu’à présent, il n’existe pas de recours juridique clair dans de nombreuses régions des États-Unis. Presque tous les États ont adopté des lois interdire la pornographie non simulée et non consensuelle, même si le processus a été lent. Beaucoup moins ont lois traitant images simulées. (Il n’existe aucune loi pénale fédérale interdisant directement l’un ou l’autre type.) Mais cela fait partie du programme de réglementation de l’IA du président Joe Biden, et la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a appelé le Congrès à adopter de nouvelles lois en réponse à l’incident de Taylor Swift la semaine dernière.
La loi DEFIANCE a été introduite en réponse aux images générées par l’IA, mais elle ne s’y limite pas. Elle considère comme contrefaçon toute image sexuelle « intime » (un terme défini dans la règle sous-jacente) créée par « un logiciel, l’apprentissage automatique, l’intelligence artificielle ou tout autre moyen technologique ou généré par ordinateur… pour donner l’impression à une personne raisonnable de être impossible à distinguer d’une représentation visuelle authentique de l’individu. Cela inclut de vraies images qui ont été modifiées pour paraître sexuellement explicites. Son langage s’applique apparemment à des outils plus anciens comme Photoshop, à condition que le résultat soit suffisamment réaliste. L’ajout d’une étiquette marquant l’image comme inauthentique ne supprime pas non plus la responsabilité.
Les membres du Congrès ont présenté de nombreux projets de loi traitant de l’IA et de la pornographie non consensuelle, et la plupart n’ont pas encore été adoptés. Plus tôt ce mois-ci les législateurs ont présenté la loi No AI FRAUD Act, une interdiction extrêmement large sur l’utilisation de la technologie pour imiter quelqu’un sans autorisation. Une règle générale sur l’usurpation d’identité soulève cependant d’énormes questions sur l’expression artistique ; cela pourrait permettre à des personnalités puissantes de poursuivre en justice pour des parodies politiques, des reconstitutions ou des traitements fictifs créatifs. La loi DEFIANCE pourrait soulever certaines des mêmes questions, mais elle est nettement plus limitée – même si elle fait encore face à une bataille difficile pour son adoption.