Meta, qui fait face à des pressions politiques constantes malgré les critiques selon lesquelles ses applications ne prennent pas suffisamment de mesures pour garantir la sécurité des enfants, a annoncé de nouvelles mesures pour protéger les utilisateurs contre la « sextorsion » et « d’autres formes d’abus d’image intime ».
Parmi les nouvelles mesures : Instagram introduit une nouvelle fonctionnalité de protection contre la nudité dans les messages directs, qui brouille les images détectées comme contenant de la nudité et incitera les utilisateurs « à réfléchir à deux fois avant d’envoyer des images nues ». Sur Instagram, la protection contre la nudité sera activée par défaut pour les adolescents de moins de 18 ans dans le monde, et l’application affichera également une notification aux adultes les encourageant à l’activer.
Selon Meta, la fonctionnalité est conçue non seulement pour empêcher les gens de voir de la nudité indésirable dans leurs DM, mais également pour les protéger des escrocs qui peuvent envoyer des images nues pour inciter les gens à envoyer leurs propres images en retour. « Alors que les gens utilisent massivement les DM pour partager ce qu’ils aiment avec leurs amis, leur famille ou leurs créateurs préférés, les escrocs par sextorsion peuvent également utiliser des messages privés pour partager ou demander des images intimes », a déclaré Meta dans un article de blog jeudi annonçant cette fonctionnalité.
Avec la nouvelle fonctionnalité activée, lorsque les utilisateurs d’Instagram reçoivent une image contenant de la nudité, elle sera automatiquement floue sous un écran d’avertissement (et ils pourront choisir de la voir ou non). Dans ce cas, Instagram affichera également un message encourageant les utilisateurs à ne pas se sentir obligés de répondre, avec une option permettant de bloquer l’expéditeur et de signaler le chat. La fonction de protection contre la nudité d’Instagram utilise la technologie d’IA intégrée à l’appareil pour analyser si une image envoyée dans un DM sur Instagram contient de la nudité. ce qui signifie qu’il fonctionnera dans les discussions cryptées de bout en bout, selon Meta.
La société a partagé une maquette de ce à quoi ressemble la fonctionnalité de protection de la nudité sur Instagram :
Selon Meta, l’entreprise prend des « mesures sévères » lorsqu’elle prend connaissance d’utilisateurs se livrant à de la sextorsion : elle supprime leur compte, prend des mesures pour les empêcher d’en créer de nouveaux et, le cas échéant, les signale au Centre national pour les enfants disparus et exploités et les organismes d’application de la loi. En outre, a déclaré la société, elle développe une technologie pour aider à identifier les comptes susceptibles de se livrer à des escroqueries de sextorsion, sur la base de « une gamme de signaux qui pourraient indiquer un comportement de sextorsion ». À l’avenir, Instagram n’affichera plus le bouton « Message » sur le profil d’un adolescent pour les comptes suspectés de sextorsion (même s’ils sont déjà connectés) et teste actuellement des moyens de rendre plus difficile pour ces comptes la recherche de comptes d’adolescents dans les résultats de recherche. Meta teste également de nouveaux messages contextuels pour les utilisateurs susceptibles d’avoir interagi avec un compte supprimé pour sextorsion.
« Les mesures de sécurité proposées par Meta au niveau des appareils dans son environnement crypté sont encourageantes », a déclaré John Shehan, vice-président principal du National Center for Missing and Exploited Children, dans un communiqué fourni par Meta. « Nous espérons que ces nouvelles mesures augmenteront le signalement par les mineurs et freineront la circulation des cas d’exploitation d’enfants en ligne. »
Ces nouvelles fonctionnalités font suite à un moment extraordinaire lors d’une audience au Sénat en janvier, lorsque le PDG de Meta, Mark Zuckerberg, a présenté ses excuses aux familles d’enfants victimes d’abus en ligne sur les plateformes du géant social. Zuckerberg s’est directement adressé aux parents présents à l’audience qui ont déclaré que leurs enfants avaient été victimes de harcèlement et d’exploitation sur les applications Meta. « Je suis désolé pour tout ce que vous avez traversé », a déclaré Zuckerberg. « C’est terrible. Personne ne devrait avoir à subir les souffrances que vos familles ont endurées. Il a déclaré que Meta investit plus de 20 milliards de dollars pour améliorer les systèmes de sûreté et de sécurité ainsi que le personnel de sa famille d’applications de médias sociaux.
Meta a déclaré que les dernières mesures visant à protéger les jeunes utilisateurs contre les contacts indésirables ou potentiellement dangereux s’appuient sur ses travaux antérieurs. Par exemple, par défaut, les adolescents utilisant ses applications ne peuvent pas recevoir de messages directs de personnes auxquelles ils ne sont pas déjà connectés et ses applications affichent des avertissements aux adolescents qui sont déjà en contact avec des comptes frauduleux potentiels.
En novembre 2023, Meta a annoncé qu’elle faisait partie des membres fondateurs de Lantern, un programme coordonné par la Tech Coalition qui permet aux entreprises technologiques de partager « des signaux sur des comptes et des comportements qui violent leurs politiques de sécurité des enfants ». Selon Meta, « cette coopération industrielle est essentielle, car les prédateurs ne se limitent pas à une seule plateforme – et il en va de même pour les escrocs par sextorsion. »