Les algorithmes Reels d’Instagram diffusent du contenu sexualisé d’enfants : rapport

Contenu de l’article

Reels d’Instagram, qui recommande un flux incessant de vidéos aux utilisateurs des réseaux sociaux, propose également du contenu sexuellement suggestif aux comptes qui suivent des préadolescents, selon une nouvelle enquête.

Le Wall Street Journal a découvert que les comptes tests qui suivaient uniquement de jeunes gymnastes, des pom-pom girls et des influenceurs adolescents et préadolescents recevaient des recommandations de l’algorithme d’Instagram qui incluaient des « images risquées d’enfants » et des vidéos ouvertement sexuelles pour adultes, diffusées parmi les publicités de marques américaines.

Contenu de l’article

Contenu de l’article

Le Journal a créé ces comptes après avoir observé que « parmi les milliers d’abonnés aux comptes de ces jeunes, on compte souvent un grand nombre d’hommes adultes ». Beaucoup de ces hommes, selon le journal, « avaient également démontré un intérêt pour les contenus sexuels liés à la fois aux enfants et aux adultes ».

Le journal a rapporté que dans le flux de vidéos recommandées, un compte Instagram test était tombé sur une publicité pour l’application de rencontres Bumble. Cette publicité est apparue entre une vidéo d’une personne caressant une poupée en latex grandeur nature et une vidéo de ce que le journal appelle une « jeune fille » montrant son ventre à la caméra. Un autre test a donné lieu à une vidéo d’un homme sur un lit avec une fillette de 10 ans, selon la légende, suivie d’une publicité pour Pizza Hut. Une publicité pour Disneyland est apparue à côté d’une vidéo décrite comme « une adulte agissant en train d’avoir des relations sexuelles avec son père ».

Le Journal répertorie plusieurs entreprises dont les publicités apparaissent à côté de ce qu’il appelle du « contenu inapproprié ». Il s’agit notamment de Disney, Walmart, de la société de rencontres Match Group et de Hims, une société de télésanté qui vend des médicaments contre la dysfonction sexuelle en plus d’offrir des services de thérapie et de perte de cheveux. Les publicités du Wall Street Journal ont également été diffusées parallèlement à ce contenu inapproprié.

Contenu de l’article

Lorsque le Journal a contacté plusieurs de ces sociétés, il a été informé qu’elles procéderaient à un audit externe de leur publicité et contacteraient la société mère d’Instagram.

« Nous n’avons aucune envie de payer Meta pour commercialiser nos marques auprès de prédateurs ou pour placer nos publicités à proximité de ce contenu », a déclaré la porte-parole de Match, Justine Sacco.

Meta, la société propriétaire d’Instagram et de Facebook, a déclaré que les tests étaient une expérience fabriquée, ne correspondant pas à celle vécue par des milliards d’utilisateurs de la plateforme de médias sociaux. Mais Meta a refusé de commenter pourquoi les algorithmes diffusaient un flux de vidéos d’enfants, de contenu sexuel et de publicités.

En octobre, Meta a lancé de nouvelles normes de marque qui donnent aux annonceurs plus de contrôle sur l’endroit où leurs publicités sont diffusées. La société a également déclaré qu’Instagram supprimait ou réduisait la visibilité de quatre millions de vidéos par mois.

« Nos systèmes sont efficaces pour réduire les contenus préjudiciables, et nous avons investi des milliards dans des solutions de sûreté, de sécurité et d’adéquation de la marque », a déclaré Samantha Stetson, vice-présidente de Meta chargée des relations avec l’industrie de la publicité.

Contenu de l’article

Une enquête menée en juin par le Wall Street Journal a révélé que les algorithmes de Meta connectent ce qu’il prétend être « de grandes communautés d’utilisateurs intéressés par le contenu pédophile ». Depuis lors, Meta a lancé un groupe de travail qui a étendu ses systèmes automatisés pour détecter les utilisateurs suspects. Il supprime des dizaines de milliers de comptes chaque mois.

Jonathan Stray, scientifique principal au Centre pour l’intelligence artificielle compatible avec l’homme de l’Université de Californie à Berkeley, a déclaré que « le contenu de niche fournit un signal beaucoup plus fort que le contenu d’intérêt général ».

Les tests, selon les experts, ont montré que les algorithmes de Meta ont révélé que certains utilisateurs qui suivent des préadolescentes voudront également interagir avec des vidéos sexualisant des enfants, et leur suggèrent donc ce contenu.

Le Journal a rapporté que les employés actuels et anciens de Meta ont déclaré que le fait que les algorithmes regrouperaient le contenu de sexualisation des enfants était un problème interne connu, et que cela constituait un risque connu lorsque le produit vidéo Reels a été lancé sur Instagram pour concurrencer TikTok.

Reels et TikTok utilisent tous deux des algorithmes pour afficher des vidéos qui pourraient intéresser un spectateur en fonction de son comportement passé, au lieu d’afficher uniquement le contenu des comptes qu’il suit.

Contenu de l’article

Une autre série de tests, effectués par le Centre canadien de protection de l’enfance, a révélé qu’Instagram diffusait des vidéos d’enfants connues pour être des vidéos d’abus sexuels.

Lianna McDonald, directrice exécutive du centre canadien, a déclaré que les médias sociaux ont changé les abus sexuels sur enfants en ligne. Les enfants sont sexualisés sur ces plateformes, généralement sans montrer de nudité, et ces publications contribuent à recruter davantage de personnes sur des forums privés au contenu illicite.

« À maintes reprises, nous avons vu des algorithmes de recommandation inciter les utilisateurs à découvrir puis à s’insérer dans ces communautés d’exploitation d’enfants en ligne », a déclaré McDonald.

Notre site Web est l’endroit idéal pour les dernières nouvelles, les scoops exclusifs, les lectures longues et les commentaires provocateurs. Veuillez ajouter nationalpost.com à vos favoris et vous inscrire à notre newsletter quotidienne, Publié, ici.

Contenu de l’article