Des gangs de pédophiles au Royaume-Uni exploitent des images d’abus sexuels générées par l’IA, réalisant des millions de livres sur un marché noir en plein essor. En réponse, le gouvernement prépare des lois spécifiques pour lutter contre ces crimes. Les nouvelles mesures incluent des peines de prison pour la création et la possession de contenus pédopornographiques générés par l’IA. Les forces de l’ordre s’inquiètent de l’augmentation des cas de grooming en ligne et de la banalisation de la violence sexuelle envers les enfants.
Des gangs de pédophiles font des millions de livres avec des images d’abus sexuels générées par l’IA, et ils sont désormais confrontés à une réaction légale sans précédent.
Le Royaume-Uni est en passe de devenir le premier pays au monde à instaurer des lois spécifiques concernant les abus sexuels liés à l’intelligence artificielle.
Les forces de l’ordre expriment de vives préoccupations concernant l’essor d’un marché noir, où des contenus générés par l’IA sont échangés au sein de groupes pédophiles.
D’après des informations, certains délinquants récoltent des gains atteignant un million de livres en commercialisant des outils et des guides pour créer ces images.
Cette annonce de nouvelles infractions survient peu après un échange tendu entre le gouvernement britannique et Elon Musk sur la question du grooming d’enfants.
Le dirigeant du réseau social X a vivement critiqué la ministre de la protection de l’enfance, Jess Phillips, pour son refus d’instituer une enquête publique sur des abus sexuels historiques, dirigée par le ministère de l’Intérieur.
Alors que le Parti travailliste a dévoilé son plan de répression, Mme Phillips a affirmé : « Chacun a un rôle à jouer. J’invite Big Tech à prendre sérieusement ses responsabilités pour protéger les enfants et à ne pas offrir de refuges pour de telles infractions. »
Les nouvelles mesures prévoient des peines de prison allant jusqu’à cinq ans pour quiconque utilisant des outils d’IA pour produire des images d’abus sexuels sur des enfants.
Les individus en possession de « manuels de pédophilie » générés par l’IA risquent jusqu’à trois ans d’emprisonnement, tandis que les responsables de sites web pédophiles pourraient faire face à des peines pouvant aller jusqu’à dix ans.
La Force frontalière se verra attribuer de nouveaux pouvoirs pour contraindre les suspects à déverrouiller leurs appareils pour les inspecter.
La ministre de l’Intérieur, Yvette Cooper, a déclaré : « Nous sommes conscients que les activités de prédateurs en ligne conduisent souvent à des abus horribles dans la réalité. »
Elle a ajouté : « Ce gouvernement n’hésitera pas à agir pour garantir la sécurité des enfants en ligne, en veillant à ce que notre législation soit adaptée aux nouvelles menaces. »
« Ces quatre nouvelles lois représentent des mesures audacieuses visant à protéger nos enfants en ligne à mesure que la technologie évolue. »
La police a observé une augmentation alarmante des cas où des individus modifient des modèles d’IA pour concevoir des images choquantes, y compris en manipulant de vraies photos d’enfants.
De plus, ils créent des contenus sur demande en utilisant des outils d’IA et intègrent même de vraies voix d’enfants dans le matériel produit.
Les gangs orchestrent également la commercialisation de contenus et la création de sites web, utilisant de fausses images pour extorquer des enfants, et diffusent en direct à d’autres prédateurs.
Dans le cadre d’une initiative pour la campagne Keep Our Kids Safe, le gouvernement s’apprête à sévir contre les groupes de sextorsion qui usurpent l’identité d’autres personnes pour tromper les enfants, ainsi que contre ceux incitant à l’automutilation.
Ils communiquent via des applications de messagerie comme Telegram, où certains groupes possèdent jusqu’à 60 000 membres, selon les sources.
L’intelligence artificielle permet également aux criminels de masquer leur identité pour groomer des enfants en ligne.
Les ministres craignent que les images produites par l’IA ne banalisent la violence sexuelle envers les enfants, incitant ainsi ceux qui les visionnent à passer à l’acte dans la vie réelle.
La qualité de certains contenus est si réaliste que les forces de l’ordre ont du mal à faire la distinction entre les vidéos générées par l’IA et les véritables vidéos d’abus.
Grooming d’enfants en ligne
Le nombre d’images d’abus sexuels générées par l’IA connaît une hausse préoccupante, selon l’Internet Watch Foundation.
Au cours d’une période de 30 jours en 2024, l’organisation a recensé 3 512 images d’abus sexuels sur des enfants créées par l’IA sur un site du dark web.
Les images de catégorie A, qui sont les plus graves, ont augmenté de dix pour cent depuis 2023.
Les signalements d’images d’abus sexuels sur des enfants générées par l’IA ont explosé de 380 pour cent, avec 245 signalements l’année dernière contre seulement 51 en 2023. Chaque signalement peut comprendre des milliers d’images.
Derek Ray-Hill de l’IWF a déclaré que la rapidité avec laquelle les abus liés à l’IA se sont intensifiés est alarmante.
Il a commenté : « C’est un véritable cauchemar, et tout enfant peut désormais devenir une cible, avec des images réalistes d’eux abusés sexuellement, obtenues avec quelques instructions et quelques clics. »
‘Un véritable cauchemar’
« La disponibilité de ce contenu généré par l’IA exacerbe la violence sexuelle contre les enfants. Cela encourage les abuseurs et rend les enfants réels encore plus vulnérables. »
Ce point a été mis en lumière lors d’une opération policière à Hertfordshire, où des agents ont perquisitionné les domiciles de deux hommes soupçonnés d’avoir contacté des enfants en ligne dans un but sexuel.
Les policiers ont eu recours à des « chiens numériques » pour détecter des appareils cachés, tels que des téléphones et des ordinateurs portables.
Cela fait suite à la condamnation à 18 ans de prison d’un étudiant en design graphique, Hugh Nelson, de Bolton, pour avoir utilisé l’IA afin de produire des images d’abus à partir de photos d’enfants réels.
Dans la première poursuite de ce type au Royaume-Uni, Nelson a été condamné l’été dernier.
Il avait vendu ses images sur des salles de chat en ligne, réalisant environ 5 000 livres en 18 mois.
Les nouvelles législations seront intégrées dans le prochain projet de loi sur la criminalité et la police.
Telegram a déclaré que « les modérateurs, équipés d’outils d’IA et d’apprentissage automatique, surveillent activement les