En décembre, juste avant le témoignage d’Adam Mosseri, responsable d’Instagram, devant le Sénat américain sur les impacts de son application sur les utilisateurs adolescents, la société a annoncé son intention de déployer une série de fonctions de sécurité et de contrôle parental. Ce matin, Instagram met à jour un ensemble critique de ces fonctionnalités, qui appliquera désormais par défaut les utilisateurs de moins de 16 ans au paramètre de contenu le plus restrictif de l’application. Il incitera également les adolescents existants à faire de même et introduira une nouvelle fonctionnalité de «vérification des paramètres» qui guidera les adolescents pour mettre à jour leurs paramètres de sécurité et de confidentialité.
Les changements sont déployés pour les utilisateurs mondiaux sur toutes les plateformes dans un contexte de pression réglementaire accrue sur les applications de médias sociaux et les problèmes de sécurité mineurs qui les accompagnent.
Lors de l’audience du Sénat de l’année dernière, Mosseri a défendu les antécédents d’Instagram en matière de sécurité des adolescents à la lumière des inquiétudes émanant de la dénonciatrice de Facebook Frances Haugen, dont les documents divulgués avaient brossé le portrait d’une entreprise consciente des effets négatifs de son application sur la santé mentale de ses jeunes utilisateurs. . Bien que la société ait alors fait valoir qu’elle prenait des précautions adéquates dans ce domaine, en 2021, Instagram a commencé à apporter des changements en ce qui concerne l’utilisation de son application par les adolescents et ce qu’ils pouvaient voir et faire.
En mars de cette année, par exemple, Instagram a déployé des contrôles parentaux et des fonctions de sécurité pour protéger les adolescents des interactions avec des utilisateurs adultes inconnus. En juin, il a mis à jour son contrôle de contenu sensible, lancé l’année précédente, pour couvrir toutes les surfaces de l’application où il fait des recommandations. Cela a permis aux utilisateurs de contrôler le contenu sensible à travers des endroits comme la recherche, les bobines, les comptes que vous pourriez suivre, les pages de hashtag et les recommandations In-Feed.
C’est cette fonctionnalité de contrôle du contenu qui reçoit la mise à jour aujourd’hui.
La version de juin avait mis en place l’infrastructure pour permettre aux utilisateurs d’ajuster leurs paramètres autour du « contenu sensible » – c’est-à-dire du contenu qui pourrait représenter de la violence graphique, est de nature sexualisée ou du contenu sur des biens restreints, entre autres. À l’époque, il présentait trois options pour restreindre ce contenu – « Plus », « Moins » ou « Standard ».
Auparavant, tous les adolescents de moins de 18 ans ne pouvaient choisir de voir du contenu que dans les catégories « Standard » ou « Moins ». Ils ne pouvaient pas passer à « Plus » avant d’être adultes.
Crédits image : Instagram
Désormais, avec la mise à jour d’aujourd’hui, les adolescents de moins de 16 ans se verront attribuer par défaut le contrôle « Moins » s’ils sont nouveaux sur Instagram. (Ils peuvent encore plus tard changer cela en « Standard » s’ils le souhaitent.)
Les adolescents existants recevront une invite qui les encourage – bien que cela ne soit pas nécessaire – à choisir également le contrôle « Moins ».
Comme auparavant, cela a un impact sur le contenu et les comptes vus dans la recherche, l’exploration, les pages de hashtag, les bobines, les recommandations de flux et les comptes suggérés, les notes Instagram.
« Tout cela dans le but d’offrir aux équipes une expérience de recherche plus sûre, de ne pas voir autant de contenu sensible et d’en voir automatiquement moins que n’importe quel adulte sur la plate-forme », a déclaré Jeanne Moran, responsable des communications sur les politiques d’Instagram, Youth Safety & Well. -Être, dans une conversation avec TechCrunch. « … nous encourageons les adolescents à choisir ‘Moins’, mais s’ils sentent qu’ils peuvent gérer le ‘Standard’, ils peuvent le faire. »
Bien sûr, la mesure dans laquelle ce changement est efficace dépend du fait que les adolescents suivront ou non la suggestion de l’invite – et s’ils ont entré leur âge correct dans l’application pour commencer. De nombreux utilisateurs plus jeunes mentent sur leur date de naissance lorsqu’ils rejoignent des applications afin de ne pas être renvoyés par défaut à des expériences plus restrictives. Instagram a tenté de résoudre ce problème en utilisant l’IA et d’autres technologies, y compris celles qui obligent désormais les utilisateurs à fournir leurs anniversaires s’ils ne l’ont pas fait, une IA qui recherche d’éventuels faux âges (par exemple en trouvant des messages d’anniversaire où l’âge n’est pas t correspondent à la date de naissance au dossier) et, plus récemment, via des tests de nouveaux outils comme les selfies vidéo.
Cependant, la société n’a pas précisé le nombre de comptes qu’elle a capturés et ajustés grâce à l’utilisation de ces technologies.
Indépendamment des nouvelles concernant ses modifications du contrôle du contenu sensible, la société déploie une nouvelle « Vérification des paramètres » conçue pour encourager tous les adolescents de moins de 18 ans sur l’application à mettre à jour leurs paramètres de sécurité et de confidentialité.
Cette invite se concentre sur l’orientation des adolescents vers des outils pour ajuster des choses comme qui peut repartager leur contenu, qui peut leur envoyer des messages et les contenter, et leur temps passé sur Instagram, ainsi que les paramètres de contrôle du contenu sensible.
Les changements font partie d’une réponse plus large de la technologie grand public sur la façon dont les applications doivent faire mieux en ce qui concerne la façon dont elles servent les jeunes utilisateurs. L’UE, en particulier, a eu un œil sur les applications sociales comme Instagram par le biais des conditions fixées par son règlement général sur la protection des données (RGPD) et son code de conception adapté à l’âge. En ce qui concerne l’utilisation de son application par les adolescents, Instagram attend maintenant une décision concernant une plainte concernant son traitement des données des enfants dans l’UE, en fait. Ailleurs, y compris aux États-Unis, les législateurs évaluent les options qui réglementeraient davantage les applications sociales et les technologies grand public de la même manière, y compris une refonte de la COPPA et la mise en œuvre de nouvelles lois.
En réponse aux nouvelles fonctionnalités, Jim Steyer, fondateur et PDG de Common Sense Media, défenseur des politiques adaptées aux enfants, a suggéré qu’Instagram pouvait encore faire plus pour rendre son application sûre.
« Les mesures de sécurité pour les mineurs mises en œuvre par Instagram aujourd’hui sont un pas dans la bonne direction qui, après beaucoup de retard, commencent à traiter les dommages causés aux adolescents par l’amplification algorithmique », a déclaré Steyer, dans un communiqué préparé. « Défavoriser les jeunes utilisateurs vers une version plus sûre de la plate-forme est une mesure substantielle qui pourrait aider à réduire la quantité de contenu préjudiciable que les adolescents voient sur leurs flux. Cependant, les efforts pour créer une plate-forme plus sûre pour les jeunes utilisateurs sont plus compliqués que cette étape et il reste encore beaucoup à faire. »
Il a déclaré qu’Instagram devrait complètement bloquer les publications nuisibles et inappropriées des profils des adolescents et devrait diriger les utilisateurs vers cette version de la plate-forme s’il soupçonne même que l’utilisateur a moins de 16 ans, malgré ce que l’utilisateur a saisi lors de l’inscription. Et il a poussé Instagram à ajouter plus de comportements nuisibles à sa liste de « contenus sensibles », y compris des contenus qui favorisent l’automutilation et les troubles alimentaires.
Instagram indique que les modifications du contrôle du contenu sensible sont en cours de déploiement. La vérification des paramètres, quant à elle, vient d’entrer en test.