Un autre lanceur d’alerte de Meta a témoigné devant le Congrès concernant des problèmes de sécurité sur les plateformes de l’entreprise. Le même jour où Frances Haugen expliquait au Congrès en 2021 comment Meta pourrait résoudre certains de ses problèmes de sécurité, Arturo Béjar, ancien directeur de l’ingénierie pour Protect and Care chez Facebook, a envoyé au PDG Mark Zuckerberg et à d’autres dirigeants un e-mail concernant les méfaits causés aux jeunes. les gens peuvent être confrontés lorsqu’ils utilisent les produits de l’entreprise.
Deux ans plus tard, Béjar était le seul témoin lors d’une audience de la sous-commission judiciaire du Sénat intitulée « Les médias sociaux et la crise de la santé mentale des adolescents ». Dans son témoignage, Béjar a affirmé qu’il avait été assigné à comparaître plus tôt cette année pour témoigner concernant les courriels qu’il avait envoyés aux supérieurs de Meta. Il a dit avoir réalisé que depuis qu’il les avait envoyés, rien n’avait changé dans l’entreprise.
« Meta continue de déformer publiquement le niveau et la fréquence des préjudices que les utilisateurs, en particulier les enfants, subissent sur la plateforme », a déclaré Béjar à la sous-commission sur la vie privée, la technologie et le droit dans des remarques préparées. « Et ils n’ont pas encore établi d’objectif pour réellement réduire ces méfaits et protéger les enfants. Il est temps que le public et les parents comprennent le véritable niveau de préjudice posé par ces « produits » et il est temps que les jeunes utilisateurs disposent des outils nécessaires pour signaler et supprimer. abus en ligne. »
Béjar a été directeur ingénierie chez Meta entre 2009 et 2015, période durant laquelle il était responsable de la protection des utilisateurs de Facebook. Il a soutenu une équipe qui a travaillé sur « des outils contre l’intimidation pour les adolescents, la prévention du suicide, la sécurité des enfants et d’autres moments difficiles que traversent les gens », selon son profil LinkedIn.
Il a témoigné qu’il avait initialement quitté Meta en se sentant « heureux d’avoir construit de nombreux systèmes qui rendaient l’utilisation de nos produits plus facile et plus sûre ». Cependant, il a déclaré que depuis l’âge de 14 ans, sa fille et ses amis « ont été confrontés à plusieurs reprises à des avances sexuelles non désirées, à la misogynie et au harcèlement » sur Instagram. Selon Le journal de Wall Streetqui a été le premier à rendre compte des affirmations de Béjar, a déclaré que les systèmes de Meta ignoraient généralement les rapports qu’ils faisaient ou répondaient en disant que le harcèlement auquel ils étaient confrontés n’enfreignait pas les règles.
Ces problèmes l’ont incité à revenir chez Meta en 2019, où il a travaillé avec l’équipe bien-être d’Instagram. « Ce n’était pas une bonne expérience. Presque tout le travail que mes collègues et moi avions fait lors de mon précédent passage chez Facebook jusqu’en 2015 avait disparu », a déclaré Béjar dans son témoignage. « Les outils que nous avions créés pour permettre aux adolescents d’obtenir de l’aide lorsqu’ils étaient victimes d’intimidation ou de harcèlement n’étaient plus à leur disposition. Les employés de l’entreprise n’avaient que peu ou pas de souvenir des leçons que nous avions apprises plus tôt. »
Béjar a affirmé qu’Instagram et des équipes de recherche internes avaient rassemblé des données montrant que les jeunes adolescents étaient confrontés à « une grande détresse et des abus ». Cependant, « la haute direction communiquait en externe différentes données qui sous-estimaient considérablement la fréquence des préjudices subis par les utilisateurs », a-t-il déclaré aux sénateurs.
Dans un e-mail adressé en 2021 à Zuckerberg et à d’autres dirigeants exposant certaines de ses préoccupations, Béjar a écrit que sa fille alors âgée de 16 ans avait mis en ligne une publication sur Instagram concernant la voiture uniquement pour qu’un commentateur lui dise de « retourner à la cuisine ». « . Béjar a déclaré que sa fille trouvait cela bouleversant. « En même temps, le commentaire est loin de violer la politique, et nos outils de blocage ou de suppression signifient que cette personne accédera à d’autres profils et continuera à propager la misogynie », a écrit Béjar. « Je ne pense pas que la politique/le reporting ou avoir plus de révision de contenu est la solution.
Béjar a déclaré qu’en plus des expériences de sa fille avec l’application, 13 % des utilisateurs âgés de 13 à 15 ans ont indiqué dans des enquêtes de perception des utilisateurs qu’ils avaient reçu des avances sexuelles non désirées sur Instagram au cours des sept jours précédents. Alors que l’ancienne directrice des opérations Sheryl Sandberg a exprimé sa sympathie envers sa fille pour ses expériences négatives et que le responsable d’Instagram, Adam Mosseri, a demandé à organiser une réunion, selon Béjar, Zuckerberg n’a jamais répondu à l’e-mail.
« C’était inhabituel », a déclaré Béjar dans son témoignage. « Cela aurait pu arriver, mais je ne me souviens pas que Mark ne m’ait jamais répondu dans de nombreuses communications, que ce soit par courrier électronique ou en demandant un rendez-vous en personne. »
Béjar a dit au Presse associée que Meta doit changer son approche en matière de modération de ses plateformes. Selon Béjar, cela nécessiterait que l’entreprise accorde une plus grande responsabilité à la lutte contre le harcèlement, les avances sexuelles non désirées et d’autres problèmes qui n’enfreignent pas nécessairement les règles existantes de l’entreprise.
Il a noté, par exemple, que les adolescents devraient pouvoir dire à Instagram qu’ils ne veulent pas recevoir de messages sexuels grossiers, même si ceux-ci ne violent pas les politiques actuelles de l’application. Béjar affirme qu’il serait facile pour Meta de mettre en œuvre une fonctionnalité grâce à laquelle les adolescents pourraient signaler les avances sexuelles qui leur sont faites. « Je crois que la raison pour laquelle ils ne le font pas est qu’il n’y a pas de transparence sur les préjudices que subissent les adolescents sur Instagram », a-t-il déclaré au BBC.
Béjar a présenté plusieurs autres mesures que Meta pourrait prendre pour réduire les préjudices auxquels les utilisateurs sont confrontés sur sa plate-forme, qui « ne nécessitent pas d’investissements importants de la part des plates-formes en personnes pour examiner le contenu ou en infrastructure technique ». Il a ajouté qu’il pensait que l’adoption de telles mesures (qui se concentrent principalement sur l’amélioration des outils de sécurité et l’obtention de davantage de commentaires des utilisateurs ayant subi un préjudice) n’aurait pas d’impact majeur sur les revenus de Meta ou des autres sociétés qui les adopteraient. « Ces réformes ne visent pas à punir les entreprises, mais à aider les adolescents », a-t-il déclaré à la sous-commission. « Et au fil du temps, ils créeront un environnement plus sûr. »
« Mon expérience, après avoir envoyé cet e-mail et vu ce qui s’est passé par la suite, est qu’ils savaient qu’ils pouvaient faire certaines choses, ils ont choisi de ne pas les faire et nous ne pouvons pas leur faire confiance avec nos enfants », a déclaré Béjar lors de l’audience. « Il est temps que le Congrès agisse. Les preuves, je crois, sont accablantes. »
« Chaque jour, d’innombrables personnes à l’intérieur et à l’extérieur de Meta travaillent sur la manière d’assurer la sécurité des jeunes en ligne », a déclaré un porte-parole de Meta dans un communiqué. « Les problèmes soulevés ici concernant les enquêtes sur la perception des utilisateurs mettent en évidence une partie de cet effort, et les enquêtes comme celles-ci nous ont amenés à créer des fonctionnalités telles que les notifications anonymes de contenu potentiellement blessant et les avertissements de commentaires. En collaboration avec des parents et des experts, nous avons également introduit plus de 30 outils pour aider les adolescents et leurs familles à vivre des expériences en ligne sûres et positives. Tout ce travail continue.
Béjar espère que son témoignage contribuera à inciter le Congrès à « adopter la législation sur laquelle il travaille » concernant la sécurité en ligne des jeunes utilisateurs. Il y a deux ans, Haugen a divulgué une recherche interne sur Facebook indiquant qu’Instagram était « nuisible pour un pourcentage important d’adolescents ». Une surveillance croissante a conduit Meta à interrompre le travail sur une version d’Instagram pour les enfants.
Depuis le témoignage de Haugen, le Congrès a déployé des efforts pour s’attaquer aux problèmes de sécurité en ligne des enfants, mais ceux-ci ont échoué. La loi sur la sécurité des enfants en ligne (KOSA) a été présentée à deux reprises par un comité sénatorial (lors du Congrès précédent et plus tôt cette année), mais elle n’a pas encore fait l’objet d’un vote en salle et il n’y a pas de projet de loi complémentaire à la Chambre. Entre autres choses, le projet de loi vise à donner aux enfants de moins de 16 ans la possibilité de désactiver « les fonctionnalités addictives et les recommandations basées sur des algorithmes, ainsi qu’à bénéficier de davantage de protections pour leurs données. Des projets de loi similaires sont bloqués au Congrès.
Le mois dernier, les procureurs généraux de 41 États et du District de Columbia ont poursuivi Meta pour les préjudices présumés qu’elle aurait causés aux jeunes utilisateurs. « Meta a conçu et déployé des fonctionnalités de produit nuisibles et psychologiquement manipulatrices pour inciter les jeunes utilisateurs à utiliser de manière compulsive et prolongée la plateforme, tout en assurant faussement au public que ses fonctionnalités étaient sûres et adaptées aux jeunes utilisateurs », selon le procès. Béjar a déclaré avoir consulté le procureurs généraux et leur a fourni des documents pour étayer leur cause.
« J’ai bon espoir que votre témoignage, ajouté au procès intenté par les procureurs généraux des États à travers le pays… ajouté à l’intérêt qui, je pense, est démontré par la participation de notre sous-comité aujourd’hui, nous permettra d’obtenir le La loi sur la sécurité des enfants en ligne franchit la ligne d’arrivée », a déclaré à Béjar le président de la sous-commission, le sénateur Richard Blumenthal (D-CT). Blumenthal, l’un des premiers sponsors de KOSA, a exprimé l’espoir qu’une autre législation « qui puisse enfin briser la camisole de force que les grandes technologies nous ont imposée » soit promulguée.
Au cours des dernières années et dans un contexte de montée en puissance de TikTok, Meta s’est une fois de plus concentré sur l’intégration de jeunes utilisateurs dans son écosystème, Zuckerberg déclarant en 2021 (quelques semaines seulement après le témoignage de Haugen) que l’entreprise recentrerait ses « équipes pour faire du service aux jeunes adultes leur étoile du Nord plutôt que de l’optimiser pour le plus grand nombre de personnes âgées. Récemment, la société a abaissé l’âge minimum pour utiliser ses casques Meta Quest VR à 10 ans grâce à l’utilisation de comptes contrôlés par les parents.
Mise à jour du 7/11 à 17 h 28 HE : Ajout de la déclaration de Meta.