Nouvelles de la BNC a découvert que les algorithmes de recommandation de Pinterest permettent aux pédophiles de créer plus facilement des tableaux remplis d’images de filles mineures. Après une recherche initiale, Pinterest commencera à suggérer des recherches associées qui peuvent facilement être utilisées à mauvais escient. Les images elles-mêmes reçoivent parfois des commentaires sexuels.
CNB note qu’il n’a pas trouvé de matériel d’exploitation sexuelle d’enfants (CSAM) au cours de son enquête. Cependant, les personnes créant les tableaux effrayants avaient parfois des collections contenant de la pornographie malgré l’interdiction de Pinterest sur ce contenu. Le site social n’a pas non plus eu de moyens directs de signaler les tentatives de sexualisation du contenu mettant en scène des mineurs. Bien que les politiques de Pinterest interdisent cette pratique, les utilisateurs ont dû s’appuyer sur des catégories de signalement inappropriées (telles que « nudité ou pornographie ») et n’ont pas eu la possibilité de signaler des tableaux entiers.
Pinterest dit à Engadget qu’il prend ce contenu « très au sérieux » et prend plusieurs mesures qui pourraient aider. Il commencera à déployer une option de rapport de conseil la semaine prochaine et proposera bientôt des outils de rapport de profil étendus qui incluent du contenu lié aux mineurs. Dans une réponse à CNBporte-parole Crystal Espinosa dit que la société prévoit également de renforcer sa modération par IA (elle utilise également des modérateurs humains) pour attraper automatiquement certains délinquants, et ajoutera de nouveaux systèmes de vérification de l’âge.
Les révélations sont importantes en partie à cause de la position agressive de Pinterest envers la modération par rapport à d’autres plates-formes – c’est l’une des rares à interdire purement et simplement la désinformation. Dans le même temps, les résultats soulignent les lacunes des outils de reporting et du moteur de recommandation de l’entreprise. Facebook, Instagram et TikTok ont tous des moyens de signaler directement le contenu impliquant des enfants.
Il y a aussi des pressions politiques pour agir. Le président Biden a récemment appelé le Congrès et les géants de la technologie à améliorer la sécurité en ligne des enfants. La commission judiciaire du Sénat, quant à elle, a tenu une audience faisant écho à ces appels. Pinterest n’est pas en danger immédiat d’une répression réglementaire (il est légal de créer ces collections), mais il n’est pas non plus garanti d’éviter un examen minutieux.