L’une des principales responsabilités des entreprises technologiques est de surveiller le contenu sur leurs plateformes pour le matériel d’abus sexuel d’enfants (CSAM), et si elles en trouvent, elles sont légalement tenues de le signaler au National Center for Missing and Exploited Children (NCMEC). De nombreuses entreprises ont mis en place des modérateurs de contenu qui examinent le contenu signalé comme potentiellement CSAM, et ils déterminent si le contenu doit être signalé au NCMEC.
Cependant, Facebook a une politique qui pourrait signifier qu’il sous-déclare le contenu d’abus sexuels sur des enfants, selon un nouveau rapport de Le New York Times. Un document de formation Facebook ordonne aux modérateurs de contenu de « pécher du côté d’un adulte » lorsqu’ils ne connaissent pas l’âge de quelqu’un sur une photo ou une vidéo soupçonnée d’être CSAM, selon le rapport.
La politique a été faite pour les modérateurs de contenu Facebook travaillant chez Accenture et est discutée dans une Revue du droit californien article d’août:
Les personnes interrogées ont également décrit une politique appelée « écrasement », avec laquelle chacun d’eux était personnellement en désaccord. La politique s’applique lorsqu’un modérateur de contenu n’est pas en mesure de déterminer facilement si le sujet d’une photo soupçonnée de CSAM est un mineur (« B ») ou un adulte (« C »). Dans de telles situations, les modérateurs de contenu sont chargés de supposer que le sujet est un adulte, permettant ainsi à davantage d’images de ne pas être signalées au NCMEC.
Voici le raisonnement de l’entreprise pour la politique, de Le New York Times:
Antigone Davis, responsable de la sécurité de Meta, a confirmé la politique dans une interview et a déclaré qu’elle découlait de problèmes de confidentialité pour ceux qui publient des images sexuelles d’adultes. « L’abus sexuel d’enfants en ligne est odieux », a déclaré Mme Davis, soulignant que Meta utilise un processus d’examen rigoureux à plusieurs niveaux qui signale beaucoup plus d’images que toute autre entreprise technologique. Elle a déclaré que les conséquences d’un signalement erroné d’abus sexuels sur des enfants pourraient « changer la vie » des utilisateurs.
Lorsqu’il a été contacté pour commenter, Facebook (qui est maintenant sous l’égide de l’entreprise Meta) a souligné les citations de Davis dans le NYT. Accenture n’a pas immédiatement répondu à une demande de commentaire. Accenture a refusé de commenter Le New York Times.
Mise à jour le 31 mars, 21h09 HE: Facebook pointé du doigt Davis’ citations dans le NYT.