La diligence raisonnable dicterait sûrement des mesures proactives pour empêcher la création de tels groupes, soutenues par une action rapide pour supprimer tous ceux qui passent une fois qu’ils sont signalés et signalés. Je l’aurais pensé. Jusqu’à ce que je tombe sur ces groupes et que je commence, avec une incrédulité croissante, à trouver impossible de les faire tomber.
Les enfants partagent des images personnelles et des informations de contact dans un espace numérique sexualisé, et sont incités à rejoindre des groupes ou des chats privés où d’autres images et actions seront sollicitées et échangées.
Alors même que le débat sur l’Earn It Act du Congrès attire l’attention sur l’utilisation des canaux numériques pour distribuer matériels sexuellement explicites, nous ne parvenons pas à lutter contre un changement sismique dans la manière dont les matériels d’abus sexuels sur des enfants sont généré. Quarante-cinq pour cent des enfants américains âgés de 9 à 12 ans déclarent utiliser Facebook tous les jours. (Ce fait à lui seul se moque de l’affirmation de Facebook selon laquelle ils travaillent activement pour éloigner les enfants de moins de 13 ans de la plateforme.) Selon des recherches récentes, plus d’un quart des enfants de 9 à 12 ans déclarent avoir subi une sollicitation sexuelle en ligne. Une personne sur huit déclare avoir été invitée à envoyer une photo ou une vidéo nue ; une personne sur 10 déclare avoir été invitée à rejoindre un livestream sexuellement explicite. Les smartphones, l’accès à Internet et Facebook, réunis, atteignent désormais les mains et les maisons des enfants et créent de nouveaux espaces de prédation active. À l’échelle.
Bien sûr je signalé le groupe que j’avais accidentellement découvert. J’ai utilisé le système sur la plate-forme de Facebook, en l’étiquetant comme contenant « de la nudité ou une activité sexuelle » qui (menu suivant) « implique un enfant ». Une réponse automatisée est revenue quelques jours plus tard. Le groupe avait été examiné et n’avait enfreint aucune «norme communautaire spécifique». Si je continuais à rencontrer du contenu « offensant ou déplaisant pour vous » – mon goût était-il le problème ici ? – je devrais signaler ce contenu spécifique, pas le groupe dans son ensemble.
« Buscando novi @ de 9,10,11,12,13 años » comptait 7 900 membres lorsque je l’ai signalé. Au moment où Facebook a répondu qu’il ne violait pas les normes communautaires, il en avait 9 000.
J’ai donc tweeté sur Facebook et dans la salle de presse de Facebook. J’ai contacté des personnes que je ne connaissais pas mais que je pensais avoir accès à des personnes à l’intérieur de Facebook. J’ai tagué des journalistes. Et j’ai signalé via le protocole de la plate-forme une douzaine de groupes supplémentaires, certains avec des milliers d’utilisateurs : des groupes que j’ai trouvés non pas par des termes de recherche sexuellement explicites, mais simplement en tapant « 11 12 13 » dans la barre de recherche des groupes.
Ce qui est devenu de plus en plus clair au fur et à mesure que je luttais pour obtenir de l’action, c’est que les limites de la technologie n’étaient pas le problème. La pleine puissance des algorithmes basés sur l’IA était exposée, mais cela fonctionnait pour développer, pas réduire, la mise en danger des enfants. Parce que même si réponse après réponse est arrivée dans ma boîte de réception, niant les motifs d’action, de nouveaux groupes de sexualisation des enfants ont commencé à m’être recommandés en tant que «groupes que vous pourriez aimer».
Chaque nouveau groupe qui m’a été recommandé avait le même mélange d’animations remplies de dessins animés, de toilettage émotionnel et d’invitations ludiques à partager du matériel sexuel que les groupes que j’avais signalés. Certains étaient en espagnol, certains en anglais, d’autres en tagalog. Lorsque j’ai cherché une traduction de « hanap jowa », le nom d’une série de groupes, cela m’a conduit à un article des Philippines faisant état des efforts déployés par les utilisateurs de Reddit pour y supprimer les groupes Facebook mettant en danger les enfants.