« En novembre 2022, les employés de Snap discutaient chaque mois de 10 000 signalements de sextorsion signalés par des utilisateurs, tout en reconnaissant que ces signalements ‘représentaient probablement une petite fraction de ces abus’ étant donné la honte et les autres obstacles au signalement », indique une version récemment non scellée du procès. déposée par le procureur général du Nouveau-Mexique contre Snap. Cette version moins expurgée du dossier que nous avons vu pour la première fois il y a un mois ajoute de nouveaux détails sur ce que les employés de Snap auraient su sur l’ampleur du problème de sextorsion qu’il est accusé d’avoir facilité sur sa plateforme.
Dans un cas présumé, des employés ont fait référence à une affaire comportant 75 rapports contre le compte « mentionnant des nus, des mineurs et des extorsions, alors que le compte était toujours actif ». Et en 2022, les recherches internes de Snap auraient révélé que plus d’un tiers des adolescentes et 30 % des adolescents garçons sur son application avaient été exposés « à des contacts indésirables sur sa plateforme ». dit la plainte.
Les nouveaux détails dressent le portrait d’une entreprise consciente de ses prétendues lacunes en matière de protection des enfants sur son service, mais pas suffisamment concentrée sur leur résolution. « Les anciens employés de Snap Trust and Safety se sont plaints du fait qu’ils avaient peu de contacts avec la haute direction, par rapport à leur travail dans d’autres sociétés de médias sociaux, et qu’il y avait des réticences à essayer d’ajouter des mécanismes de sécurité dans l’application parce que [Snap CEO] Evan Spiegel a donné la priorité au design' », indique la plainte.
« … il y a eu des réticences à essayer d’ajouter des mécanismes de sécurité dans l’application parce que [Snap CEO] Evan Spiegel a donné la priorité au design »
Dans un déclaration publiée dans sa salle de rédactionSnap a déclaré que son application est conçue « comme un lieu de communication avec un cercle d’amis proches, avec des garde-corps de sécurité intégrés, et a fait des choix de conception délibérés pour rendre difficile la découverte de mineurs sur notre service par des étrangers. Nous continuons à faire évoluer nos mécanismes et politiques de sécurité, en tirant parti de la technologie avancée pour détecter et bloquer certaines activités, en interdisant les comptes suspects, en travaillant aux côtés des forces de l’ordre et des agences gouvernementales, et bien plus encore.
Selon la plainte, les employés de Snap ont diffusé un rapport externe en 2021 qui comprenait des exemples de prédateurs présumés se connectant avec des enfants dès l’âge de huit ans via Snapchat et obtenant du matériel d’abus sexuels sur des enfants. Mais ils craignaient que les mesures visant à détecter ce type de comportement ne pèsent indûment sur la vie privée des utilisateurs et « créent des coûts administratifs disproportionnés », affirme la plainte.
Les employés auraient également identifié des risques avec certaines fonctionnalités de Snapchat, comme Quick Add, qui suggère d’autres utilisateurs avec lesquels se connecter. « Nous devons trouver de nouvelles approches qui clôturent nos utilisateurs les plus vulnérables (mineurs) et rendent plus difficile aux utilisateurs prédateurs de les trouver via l’ajout rapide, la recherche, etc. », a écrit un responsable, selon la plainte. « Nous pensons que nous pouvons y parvenir sans dégrader de manière significative l’expérience produit de ces utilisateurs si nous poursuivons de nouvelles stratégies de génération/contraintes d’inventaire et d’autres techniques pour séparer plus efficacement les mineurs des personnes extérieures à leurs réseaux. » Snap a ensuite fait en sorte que la fonctionnalité d’ajout rapide n’apparaisse que pour les comptes des jeunes de 13 à 17 ans lorsqu’ils avaient « un certain nombre d’amis en commun avec cette personne ». Mais en interne, indique la plainte, les employés ont reconnu que cette approche présenterait encore des lacunes importantes.
La plainte non scellée comprend également plus de détails sur la manière dont Snap aurait facilité la vente illicite d’armes à feu. Dans une présentation non datée, la société a reconnu que sa plateforme voit « 50 publications liées à la vente illégale d’armes par jour et 9 000 vues par jour de ces armes commercialisées ». Et même lorsque du contenu est signalé, «[r]Le contenu rapporté est généralement consulté des centaines de fois avant d’être signalé.
« Les stries rendent impossible le débranchement, même pendant une journée »
Il comprend également des communications internes reconnaissant le caractère addictif de Snapstreaks, où les utilisateurs sont informés du nombre de jours pendant lesquels ils ont continué à communiquer avec un autre utilisateur. « Wow, nous devrions avoir des fonctionnalités plus addictives comme celle-ci », aurait écrit un employé, selon un e-mail de janvier 2017. « La plupart des streakers constituent notre noyau démographique », a écrit un autre. Une présentation d’octobre 2019 aurait noté que « les stries rendent impossible le débranchement, même pendant une journée ».