Les entreprises de médias sociaux ne doivent plus traiter la sécurité en ligne comme une « pensée après coup », a déclaré le prince de Galles vendredi soir, après une enquête historique sur la mort de Molly Russell.
La jeune fille de 14 ans s’est suicidée en novembre 2017 après des mois de frénésie sur ce que son père, Ian, a décrit comme une « piste démente de contenu suceur de vie » concernant le suicide et l’automutilation sur des plateformes telles qu’Instagram et Pinterest.
Andrew Walker, le coroner principal, a mis fin à l’attente de cinq ans de réponses de la famille Russell en concluant qu’au lieu de se suicider, Molly « est décédée d’un acte d’automutilation alors qu’elle souffrait de dépression et des effets négatifs du contenu en ligne ».
Cela a incité le prince à faire une intervention publique appelant à une plus grande sécurité pour les enfants en ligne.
Il a écrit sur son compte Twitter officiel : « Aucun parent ne devrait jamais avoir à endurer ce que Ian Russell et sa famille ont vécu. Ils ont été incroyablement courageux.
« La sécurité en ligne pour nos enfants et nos jeunes doit être une condition préalable, pas une réflexion après coup. »
Le prince s’est déjà prononcé contre les plus grandes entreprises de médias sociaux du monde, affirmant en 2018 qu’elles ne parvenaient pas à protéger les enfants et les accusant de ne pas vouloir « s’approprier ce problème ».
La décision de vendredi – la première du genre dans le monde – représente un coup dur pour les géants de la technologie, mais la police et les procureurs sont actuellement impuissants à engager des poursuites pénales contre eux dans cette affaire.
M. Russell et des organisations caritatives, dont le NSPCC, ont appelé les ministres à présenter « de toute urgence » des plans longtemps retardés pour imposer une obligation légale aux entreprises de médias sociaux de protéger les enfants.
La Première ministre Liz Truss a commenté : « J’examinerai très, très attentivement cette question très préoccupante. Nous devons nous en assurer et je m’engage à faire avancer et à faire progresser le projet de loi sur les préjudices en ligne. »
Michelle Donelan, la secrétaire numérique, a averti que le gouvernement utiliserait bientôt « toute la force de la loi » pour s’assurer que les jeunes sont protégés contre les contenus en ligne « horribles ».
« L’ère du Far West est révolue », a déclaré un communiqué des administrateurs de la Fondation Molly Rose, créée par la famille Russell à la mémoire de l’écolière.
« Nous ne pouvons plus attendre ; ne visez pas la perfection, trop de vies sont en danger.
À la suite de l’audience au North London Coroner’s Court, M. Russell a appelé au changement de la « culture d’entreprise toxique au cœur des plus grandes plateformes de médias sociaux au monde ».
Il a accusé les plateformes de ne pas prendre de mesures pour protéger « nos jeunes innocents », privilégiant plutôt les profits « en monétisant leur misère ».
Lorsqu’on lui a demandé s’il avait un message pour Mark Zuckerberg, PDG de la société mère d’Instagram, Meta, M. Russell a déclaré: «Un simple message à Mark serait simplement d’écouter. Écoutez les gens qui utilisent sa plate-forme, écoutez les conclusions que le coroner a données lors de cette enquête, puis faites quelque chose à ce sujet.
L’enquête a appris que Molly avait visionné des milliers de vidéos et d’images pénibles – y compris des représentations de suicide et des guides d’automutilation – sur les réseaux sociaux dans les mois précédant sa mort.
Le coroner a déclaré que les algorithmes utilisés par les plateformes de médias sociaux ont conduit à la «sélection et à la fourniture» de contenu dangereux à Molly sans qu’elle le demande, ce qui a probablement eu un «effet négatif» sur sa santé mentale.
« Certains de ces contenus ont idéalisé les actes d’automutilation des jeunes envers eux-mêmes ; d’autres contenus cherchaient à isoler et à décourager les discussions avec ceux qui auraient pu aider », a déclaré le coroner.
Il a ajouté: « Il est probable que le matériel ci-dessus vu par Molly, déjà atteinte d’une maladie dépressive et vulnérable en raison de son âge, a affecté sa santé mentale de manière négative et a contribué à sa mort de manière plus que minime. »
Instagram était la dernière application à laquelle elle avait accédé, à 00h45 le 21 novembre 2017. Elle était morte en une heure ou deux, selon sa famille.
Les cadres supérieurs de Meta, propriétaire d’Instagram, et de Pinterest, le site Web de partage de photos, se sont excusés pour le matériel déchirant que Molly a vu après avoir pris l’avion des États-Unis pour témoigner.
Judson Hoffman, de Pinterest, a admis qu’au moment où l’adolescent utilisait le site, il n’était pas sûr pour les enfants.
Le NSPCC a déclaré que l’enquête enverrait des « ondes de choc dans la Silicon Valley » et a fait écho aux appels de la famille pour que le gouvernement promulgue le projet de loi phare sur la sécurité en ligne.
La nouvelle loi pourrait voir les entreprises de médias sociaux se voir infliger des amendes de plusieurs milliards de livres pouvant aller jusqu’à 10% de leur chiffre d’affaires si elles ne parviennent pas à protéger les utilisateurs, en particulier les enfants, contre les préjudices, notamment les contenus suicidaires et les abus sexuels.
Mme Donelan a déclaré: «Les détails des événements qui ont conduit à la mort de Molly sont indéniablement déchirants. L’enquête a montré l’échec horrible des plateformes de médias sociaux à faire passer le bien-être des enfants en premier.
« Nous devons à la famille de Molly de faire tout ce qui est en notre pouvoir pour empêcher que cela n’arrive à d’autres. Notre projet de loi sur la sécurité en ligne est la réponse et à travers lui, nous utiliserons toute la force de la loi pour obliger les entreprises de médias sociaux à protéger les jeunes contre les horribles contenus pro-suicide.
Un porte-parole de Meta a déclaré: « Nous nous engageons à faire en sorte qu’Instagram soit une expérience positive pour tout le monde, en particulier les adolescents, et nous examinerons attentivement le rapport complet du coroner lorsqu’il le fournira. »
Un porte-parole de Pinterest a déclaré: « Pinterest s’engage à apporter des améliorations continues pour garantir que la plate-forme est sûre pour tout le monde et le rapport du coroner sera examiné avec soin. »