Jacqui VanLiew ; Getty Images
Deux adolescents de Miami, en Floride, ont été arrêtés en décembre pour avoir prétendument créé et partagé des images nues générées par l’IA de camarades de classe, hommes et femmes, sans leur consentement, selon des rapports de police obtenus par WIRED via une demande d’archives publiques.
Les rapports d’arrestation indiquent que les garçons, âgés de 13 et 14 ans, ont créé les images des étudiants qui avaient « entre 12 et 13 ans ».
L’affaire de Floride semble être la première arrestation et accusation criminelle à la suite d’un partage présumé d’images de nus générées par l’IA. Les garçons ont été inculpés de crimes au troisième degré – le même niveau de crimes que le vol de voiture ou le faux emprisonnement – en vertu d’une loi de l’État adoptée en 2022 qui érige en délit le partage de « toute représentation sexuelle altérée » d’une personne sans son consentement.
Le parent de l’un des garçons arrêtés n’a pas répondu à une demande de commentaires à temps pour la publication. Le parent de l’autre garçon a déclaré qu’il n’avait « aucun commentaire ». Le détective chargé de l’affaire et le procureur chargé de l’affaire n’ont pas répondu aux commentaires à temps pour la publication.
Alors que les outils de création d’images IA sont devenus plus largement disponibles, il y a eu plusieurs incidents très médiatisés au cours desquels des mineurs auraient créé des images nues de camarades de classe générées par l’IA et les auraient partagées sans consentement. Aucune arrestation n’a été divulguée dans les cas rapportés publiquement – au lycée Issaquah à Washington, au lycée Westfield dans le New Jersey et au collège Beverly Vista en Californie – même si des rapports de police ont été déposés. Au lycée Issaquah, la police a choisi de ne pas porter plainte.
Les premiers reportages médiatiques sur l’affaire de Floride sont apparus en décembre, affirmant que les deux garçons avaient été suspendus de la Pinecrest Cove Academy de Miami pendant 10 jours après que les administrateurs de l’école aient eu connaissance d’allégations selon lesquelles ils auraient créé et partagé de fausses images de nus sans leur consentement. Après que les parents des victimes ont eu connaissance de l’incident, plusieurs d’entre eux ont commencé à exhorter publiquement l’école à expulser les garçons.
Nadia Khan-Roberts, la mère de l’une des victimes, a déclaré à NBC Miami en décembre que pour toutes les familles dont les enfants ont été victimes, l’incident était traumatisant. « Nos filles ne se sentent pas à l’aise dans les mêmes couloirs que ces garçons », a-t-elle déclaré. « Cela me fait me sentir violé, je me sens exploité [of] et je me sens utilisée », a déclaré à la chaîne de télévision une victime, qui a demandé à rester anonyme.
WIRED a obtenu cette semaine des dossiers d’arrestation indiquant que l’incident a été signalé à la police le 6 décembre 2023 et que les deux garçons ont été arrêtés le 22 décembre. Les dossiers accusent les deux hommes d’avoir utilisé « une application d’intelligence artificielle » pour créer de fausses images explicites. . Le nom de l’application n’a pas été précisé et les rapports affirment que les garçons ont partagé les photos entre eux.
« L’incident a été signalé à un administrateur de l’école », indiquent les rapports, sans préciser qui l’a signalé ni comment cette personne a eu connaissance des images. Après que l’administrateur de l’école ait « obtenu des copies des images modifiées », l’administrateur a interrogé les victimes qui y étaient représentées, selon les rapports, qui ont déclaré qu’elles n’acceptaient pas que les images soient créées.
Après leur arrestation, les deux garçons accusés d’avoir réalisé les images ont été transportés au Département du Service pour mineurs « sans incident », selon les informations.
Une poignée d’États ont des lois en vigueur qui ciblent les fausses images de nus non consensuelles. Il n’existe aucune loi fédérale visant cette pratique, mais un groupe de sénateurs américains a récemment présenté un projet de loi pour lutter contre ce problème après que de fausses images nues de Taylor Swift aient été créées et largement diffusées sur X.
Les garçons ont été inculpés en vertu d’une loi de Floride adoptée en 2022 et conçue par les législateurs de l’État pour lutter contre le harcèlement impliquant de fausses images créées à l’aide d’outils basés sur l’IA.
Stephanie Cagnet Myron, une avocate de Floride qui représente les victimes d’images de nu partagées de manière non consensuelle, a déclaré à WIRED que toute personne créant de fausses images de nu d’un mineur serait en possession de matériel d’abus sexuel sur des enfants, ou CSAM. Cependant, elle affirme qu’il est probable que les deux garçons accusés d’avoir créé et partagé le matériel n’ont pas été accusés de possession de CSAM en raison de leur âge.
« Il y a spécifiquement plusieurs crimes que vous pouvez accuser dans une affaire, et vous devez vraiment évaluer quelle est la plus grande chance de gagner, ce qui a la plus grande probabilité de succès, et si vous incluez trop d’accusations, est-ce que cela va simplement semer la confusion dans le jury. ? » » a ajouté Cagnet Myron.
Mary Anne Franks, professeur à la faculté de droit de l’Université George Washington et avocate qui a étudié le problème des images explicites non consensuelles, dit qu’il est « étrange » que la loi de Floride sur la vengeance pornographique, antérieure à la loi de 2022 en vertu de laquelle les garçons ont été inculpés, ne fait que du délit un délit, alors que cette situation représentait un crime.
« Cela me paraît vraiment étrange que vous imposiez des sanctions plus lourdes pour les fausses photos de nu que pour les vraies », dit-elle.
Franks ajoute que même si elle estime que la distribution de fausses images explicites et non consensuelles devrait être une infraction pénale, créant ainsi un effet dissuasif, elle ne pense pas que les délinquants devraient être incarcérés, surtout pas les mineurs.
« La première chose à laquelle je pense, c’est à quel point les victimes sont jeunes et je m’inquiète du type d’impact sur elles », explique Franks. « Mais alors [I] Nous nous demandons également si le fait de lancer le livre aux enfants sera réellement efficace ici.
Cette histoire a été initialement publiée sur wired.com.