Le Nouveau-Mexique est la dernière juridiction à être accusée de ne pas avoir protégé les jeunes utilisateurs. Le bureau du procureur général de l’État a intenté une action contre la société cette semaine après que les enquêteurs ont créé des comptes tests sur et dans lesquels ils prétendaient être des préadolescents ou des adolescents. Ils ont utilisé des photos de profil générées par l’IA pour les comptes. Le bureau de l’AG affirme que les comptes ont été bombardés de messages et d’images explicites, ainsi que de propositions sexuelles de la part des utilisateurs. Il a également affirmé que les algorithmes de Meta recommandaient du contenu sexuel aux comptes de test.
La poursuite affirme que « Meta a permis à Facebook et Instagram de devenir un marché pour les prédateurs à la recherche d’enfants sur lesquels s’attaquer », selon . En outre, il affirme que Meta n’a pas pris de mesures pour empêcher les moins de 13 ans d’utiliser ses plateformes et que le PDG Mark Zuckerberg était personnellement responsable des choix de produits augmentant les risques pour les enfants.
Pour contourner les restrictions d’âge de Meta, les enquêteurs ont fourni à l’entreprise des dates de naissance d’adultes tout en créant de faux comptes pour quatre enfants (les enfants accèdent souvent à des services en ligne qu’ils ne sont pas censés accéder). Cependant, ils ont laissé entendre que les comptes étaient utilisés par des enfants – l’un d’eux a publié un article sur la perte d’une dent de lait et l’entrée en septième année. Selon le procès, les enquêteurs ont également créé le compte pour donner l’impression que la mère de l’enfant fictif la trafiquait peut-être.
La poursuite allègue que, entre autres choses, les comptes ont reçu des images pédopornographiques et des offres de paiement pour des relations sexuelles. Deux jours après que les enquêteurs ont créé un compte pour une fausse fille de 13 ans, les algorithmes de Meta lui ont suggéré de suivre un compte Facebook comptant plus de 119 000 abonnés qui publiaient du porno adulte.
Les enquêteurs ont signalé du matériel inapproprié (y compris certaines images qui semblaient être des filles nues et mineures) via les systèmes de signalement de Meta. Selon la poursuite, les systèmes de Meta ont souvent jugé que ces images étaient autorisées sur ses plateformes.
Dans une déclaration au Journal, Meta a affirmé donner la priorité à la sécurité des enfants et investir massivement dans les équipes de sécurité. « Nous utilisons une technologie sophistiquée, embauchons des experts en sécurité des enfants, signalons le contenu au Centre national pour les enfants disparus et exploités et partageons des informations et des outils avec d’autres entreprises et forces de l’ordre, y compris les procureurs généraux des États, pour aider à éliminer les prédateurs », a déclaré la société. . Meta a également affirmé qu’elle effectuait des travaux visant à empêcher les adultes malveillants de contacter des enfants sur ses plateformes.
Plus tôt cette année, Meta s’est attaquée aux problèmes de sécurité des enfants après que des rapports ont indiqué que les algorithmes d’Instagram aidaient les comptes qui commandaient et achetaient du matériel sexuel pour mineurs à se retrouver. Pas plus tard que la semaine dernière, le Journal la prévalence présumée du matériel d’exploitation des enfants sur Instagram et Facebook. Selon le Centre canadien de protection de l’enfance, un « réseau de comptes Instagram comptant chacun jusqu’à 10 millions d’abonnés a continué à diffuser en direct des vidéos d’abus sexuels sur des enfants des mois après que cela a été signalé à l’entreprise. » Meta affirme avoir pris des mesures à ce sujet. problèmes.
Le procès du Nouveau-Mexique fait suite à des poursuites dans lesquelles un groupe de 41 États et le District de Columbia alléguaient, entre autres, que l’entreprise savait que ses aspects « addictifs » étaient nocifs pour les jeunes utilisateurs et qu’elle avait induit les gens en erreur sur la sécurité de ses plateformes.