Le Centre national pour les enfants disparus et exploités (NCMEC) a annoncé une nouvelle plateforme conçu pour aider à supprimer les images sexuellement explicites de mineurs sur Internet. Meta a révélé dans un article de blog qu’il avait fourni un financement initial pour créer le L’outil gratuit « Take It Down » du NCMECqui permet aux utilisateurs de signaler et de supprimer de manière anonyme « des images ou des vidéos nues, partiellement nues ou sexuellement explicites » de personnes mineures trouvées sur les plateformes participantes et d’empêcher le partage du contenu incriminé.
Facebook et Instagram ont signé pour intégrer la plate-forme, tout comme OnlyFans, Pornhub et Yubo. Take It Down est conçu pour que les mineurs rapportent eux-mêmes des images et des vidéos ; cependant, les adultes qui sont apparus dans un tel contenu alors qu’ils avaient moins de 18 ans peuvent également utiliser le service pour le signaler et le supprimer. Les parents ou d’autres adultes de confiance peuvent également faire un signalement au nom d’un enfant.
Un FAQ pour le démonter stipule que les utilisateurs doivent avoir l’image ou la vidéo signalée sur leur appareil pour utiliser le service. Ce contenu n’est pas soumis dans le cadre du processus de signalement et, en tant que tel, reste privé. Au lieu de cela, le contenu est utilisé pour générer une valeur de hachage, une empreinte numérique unique attribuée à chaque image et vidéo qui peut ensuite être fournie aux plateformes participantes pour la détecter et la supprimer sur leurs sites Web et applications, tout en minimisant le nombre de personnes qui voient le contenu réel.
« Nous avons créé ce système parce que de nombreux enfants sont confrontés à ces situations désespérées », a déclaré Michelle DeLaune, présidente et chef de la direction du NCMEC. « Notre espoir est que les enfants prennent conscience de ce service et qu’ils se sentent soulagés que des outils existent pour aider à supprimer les images. Le NCMEC est là pour vous aider.
Le service Take It Down est comparable à ArrêtNCIIun service lancé en 2021 qui vise à empêcher le partage non consensuel d’images pour les personnes de plus de 18 ans. StopNCII utilise également des valeurs de hachage pour détecter et supprimer le contenu explicite sur Facebook, Instagram, TikTok et Bumble.
Meta a taquiné la nouvelle plate-forme en novembre dernier parallèlement au lancement de nouvelles fonctionnalités de confidentialité pour Instagram et Facebook
En plus de annonçant sa collaboration avec le NCMEC en novembre de l’année dernière, Meta a déployé de nouvelles fonctionnalités de confidentialité pour Instagram et Facebook qui visent à protéger les mineurs utilisant les plateformes. Il s’agit notamment d’inviter les adolescents à signaler les comptes après avoir bloqué des adultes suspects, de supprimer le bouton de message sur les comptes Instagram des adolescents lorsqu’ils sont consultés par des adultes ayant des antécédents de blocage et d’appliquer des paramètres de confidentialité plus stricts par défaut pour les utilisateurs de Facebook de moins de 16 ans (ou 18 dans certains pays).
D’autres plateformes participant au programme ont pris des mesures pour empêcher et supprimer les contenus explicites représentant des mineurs. Yubo, une application française de réseau social, a déployé une gamme d’outils d’intelligence artificielle et de modération humaine qui peut détecter du matériel sexuel représentant des mineurs, tandis que Pornhub permet aux individus de émettre directement une demande de retrait pour les contenus illégaux ou non consensuels publiés sur sa plateforme.
Toutes les plateformes participantes ont déjà été critiquées pour ne pas avoir protégé les mineurs contre l’exploitation sexuelle
Les cinq plateformes participantes ont déjà été critiquées pour ne pas avoir protégé les mineurs contre l’exploitation sexuelle. UN nouvelles de la BBC rapport de 2021 trouvé les enfants pourraient facilement contourner les systèmes de vérification de l’âge d’OnlyFanstandis que Pornhub a été poursuivi par 34 victimes d’exploitation sexuelle la même année, alléguant que le site a sciemment profité de vidéos illustrant le viol, l’exploitation sexuelle d’enfants, la traite et d’autres contenus sexuels non consensuels. Yubo — décrit comme « Tinder pour les adolescents » – a été utilisé par les prédateurs pour contacter et violer des utilisateurs mineurset le NCMEC estimé l’année dernière que le projet de Meta d’appliquer un cryptage de bout en bout à ses plateformes pourrait effectivement dissimuler 70 % du matériel d’exploitation sexuelle d’enfants actuellement détecté et signalé sur sa plateforme.
« Lorsque les entreprises technologiques mettent en œuvre un cryptage de bout en bout, sans mesures préventives intégrées pour détecter le matériel connu d’abus sexuel d’enfants, l’impact sur la sécurité des enfants est dévastateur », a déclaré DeLaune au Comité judiciaire du Sénat plus tôt ce mois-ci.
UN communiqué de presse pour Take It Down mentionne que les plates-formes participantes peuvent utiliser les valeurs de hachage fournies pour détecter et supprimer des images sur des « sites et applications publics ou non cryptés », mais il n’est pas clair si cela s’étend à l’utilisation par Meta du cryptage de bout en bout sur les services comme Messager. Nous avons contacté Meta pour confirmation et mettrons à jour cette histoire si nous recevons une réponse.