Le ministère américain de la Justice a commencé à sévir contre l’utilisation de générateurs d’images IA pour produire du matériel pédopornographique (CSAM).
Lundi, le DOJ a arrêté Steven Anderegg, un homme du Wisconsin de 42 ans « extrêmement averti en technologie » qui aurait utilisé Stable Diffusion pour créer « des milliers d’images réalistes de mineurs prépubères », qui ont ensuite été distribuées sur Instagram et Telegram.
Les flics ont été informés des activités présumées d’Anderegg après qu’Instagram ait signalé des messages directs envoyés sur le compte Instagram d’Anderegg à un garçon de 15 ans. Instagram a signalé les messages au Centre national pour les enfants disparus et exploités (NCMEC), qui a ensuite alerté les forces de l’ordre.
Au cours de l’échange sur Instagram, le DOJ a découvert qu’Anderegg avait envoyé des images d’IA sexuellement explicites de mineurs peu de temps après que l’adolescent ait fait connaître son âge, alléguant que « la seule explication raisonnable pour l’envoi de ces images était d’attirer sexuellement l’enfant ».
Selon l’acte d’accusation du DOJ, Anderegg est un ingénieur logiciel possédant « une expérience professionnelle de travail avec l’IA ». En raison de sa « compétence particulière » en IA générative (GenAI), il aurait été capable de générer le CSAM en utilisant une version de Stable Diffusion, « ainsi qu’une interface utilisateur graphique et des modules complémentaires spéciaux créés par d’autres utilisateurs de Stable Diffusion spécialisés dans produisant des organes génitaux.
Après qu’Instagram ait rapporté les messages d’Anderegg au mineur, les policiers ont saisi l’ordinateur portable d’Anderegg et ont trouvé « plus de 13 000 images GenAI, avec des centaines, voire des milliers, de ces images représentant des mineurs prépubères nus ou semi-vêtus exhibant ou touchant lascivement leurs organes génitaux » ou « se livrant à des activités sexuelles ». rapports sexuels avec des hommes. »
Dans ses messages à l’adolescent, Anderegg s’est apparemment « vanté » de sa capacité à générer du CSAM, indique l’acte d’accusation. Le DOJ a allégué que les preuves provenant de son ordinateur portable montraient qu’Anderegg « avait utilisé des invites extrêmement spécifiques et explicites pour créer ces images », y compris « des invites « négatives » spécifiques, c’est-à-dire des invites qui orientent le modèle GenAI sur ce qu’il ne fallait pas inclure dans le contenu généré. pour éviter de créer des images représentant des adultes. Ces invites incontournables étaient stockées sur son ordinateur, a affirmé le DOJ.
Anderegg est actuellement détenu par le gouvernement fédéral et a été accusé de production, de distribution et de possession de CSAM générés par l’IA, ainsi que de « transfert de matériel obscène à un mineur de moins de 16 ans », indique l’acte d’accusation.
Parce que le DOJ soupçonnait Anderegg d’avoir l’intention d’utiliser le CSAM généré par l’IA pour soigner un mineur, le DOJ fait valoir qu’il n’y a « aucune condition de libération » qui pourrait l’empêcher de poser un « danger important » pour sa communauté pendant que le tribunal réfléchit. son cas. Le DOJ a averti le tribunal qu’il est très probable que tout contact futur avec des mineurs puisse passer inaperçu, car Anderegg est apparemment suffisamment averti en technologie pour cacher toute tentative future d’envoyer du CSAM généré par l’IA à des mineurs.
« Il a étudié l’informatique et possède des décennies d’expérience en génie logiciel », indique l’acte d’accusation. « Bien que la surveillance informatique puisse permettre de réduire le danger posé par des délinquants moins avertis, les antécédents de l’accusé fournissent de nombreuses raisons de conclure qu’il pourrait contourner ces restrictions s’il le décidait. Et s’il le faisait, toute récidive ne serait probablement pas détectée. »
S’il est reconnu coupable des quatre chefs d’accusation, il pourrait encourir « une peine maximale légale totale de 70 ans de prison et une peine minimale obligatoire de cinq ans de prison », a indiqué le ministère de la Justice. En partie à cause des « compétences particulières de GenAI », le DOJ – qui a qualifié ses preuves contre Anderegg de « solides » – a suggéré qu’il pourrait recommander une fourchette de peines « aussi élevée que l’emprisonnement à vie ».
En annonçant l’arrestation d’Anderegg, la procureure générale adjointe Lisa Monaco a clairement indiqué que la création de CSAM générés par l’IA était illégale aux États-Unis.
« La technologie peut changer, mais notre engagement à protéger les enfants ne changera pas », a déclaré Monaco. « Le ministère de la Justice poursuivra de manière agressive ceux qui produisent et distribuent du matériel pédopornographique – ou CSAM –, quelle que soit la manière dont ce matériel a été créé. En termes simples, le CSAM généré par l’IA reste du CSAM, et nous tiendrons pour responsables ceux qui exploitent l’IA pour créer des images obscènes, abusives et de plus en plus photoréalistes d’enfants.