Environ un an après le début de la pandémie de COVID-19, Carolyn, mère de six enfants, a finalement capitulé devant la mendicité de ses enfants. Ses enfants voulaient rejoindre Roblox, une plateforme qui permet aux utilisateurs de créer et d’héberger des jeux multijoueurs en ligne. Roblox est devenu un moyen vital pour les enfants de se connecter virtuellement pendant la pandémie, et malgré ses inquiétudes concernant ses enfants, âgés de 12 ans et moins, interagissant avec d’autres en ligne, Carolyn et son mari ont décidé de les laisser jouer. Deux ans plus tard, une multitude de changements de modération de contenu chez Roblox lui ont rendu plus difficile le contrôle de ce que ses jeunes enfants voient. Elle a pris la décision difficile d’arrêter de permettre à ses enfants de jouer.
« D’accord, j’ai fini. FINI. J’ai supprimé les comptes Roblox de mes enfants et je vous recommande de le faire aussi. Je viens de passer six heures à jouer aux jeux destinés aux enfants de 5 ans et c’était horrible. Quelque chose ne va vraiment pas avec Roblox Corp », dit-elle dans un fil de tweet.
Dans les tweets suivants, Carolyn a décrit un contenu troublant supplémentaire qu’elle a rencontré en jouant sur la plate-forme, y compris un jeu appelé Simulateur de salle de bain publique qui imitait un environnement de toilettes publiques. Carolyn a dit à JeuxServer qu’elle s’attendait à un peu d’humour, mais ce qu’elle a trouvé était bien pire. Dans le jeu, son personnage a glissé sur une flaque d’eau et s’est retrouvé coincé au sol. Par la suite, d’autres joueurs du jeu semblaient jouer à tour de rôle un jeu de rôle qui simulé une agression de son personnage, un incident qui est arrivé à d’autres sur Roblox.
Tout le monde peut créer un jeu sur Roblox. La plate-forme fonctionne presque comme YouTube – sauf qu’au lieu de télécharger des vidéos, n’importe quel utilisateur peut concevoir et publier un jeu, ou comme l’appelle Roblox, une « expérience » à laquelle d’autres peuvent jouer. Cela donne aux jeunes utilisateurs de vastes possibilités de se développer et de jouer dans tous les mondes virtuels et les jeux qu’ils imaginent. Selon un porte-parole de Roblox, la plateforme comptait 58,8 millions d’utilisateurs actifs quotidiens au troisième trimestre 2022, dont 46 % s’identifient comme ayant moins de 13 ans.
Cela pose un problème de modération de contenu. Les utilisateurs peuvent choisir entre environ 9 millions d’expériences, selon le site Web de Roblox. Cet immense volume d’expériences rend plus difficile à modérer, malgré le rôle actif de l’entreprise dans la surveillance de la plateforme.
Roblox filtre les skins et le chat créés par les utilisateurs potentiellement inappropriés, ainsi que les informations personnelles. La société affirme qu’elle emploie une équipe de « milliers » pour surveiller la plate-forme à la recherche de contenus inappropriés et que son équipe de confiance et de sécurité prend généralement des « minutes » pour traiter tout comportement qui enfreint leurs conditions d’utilisation et les normes de la communauté. Pourtant, des jeux simulant l’esclavage et le fascisme ou ceux qui simulent des fusillades de masse ont fait leur apparition sur la plateforme.
Pendant la majeure partie de 2022, les jeux Roblox individuels n’avaient pas de désignation ou de classement «approprié à l’âge», car le public visé par la plate-forme était simplement les jeunes enfants. Les parents pourraient restreindre le compte de leurs enfants afin que les enfants ne puissent jouer qu’à une liste de jeux organisée par Roblox, ainsi qu’à d’autres fonctionnalités de sécurité, comme la désactivation du chat.
Cependant, en septembre, Roblox a lancé les « directives d’expérience », qui incluent des classifications d’âge pour les jeux, apparemment afin de répondre à son nombre croissant d’utilisateurs de plus de 13 ans sur la plate-forme. Les jeux ont désormais trois catégories d’âge possibles – tous les âges, 9 ans et plus et 13 ans et plus – et les recommandations d’âge sont «fondées sur la recherche sur le développement de l’enfant» et les «normes de l’industrie», selon un blog de la Roblox Developers Conference. Les parents ont désormais la possibilité de limiter l’accès à certains jeux en fonction des recommandations d’âge.
C’est aux gens ordinaires qui créent des jeux sur Roblox de s’assurer que leur contenu est adapté à l’âge. Pour ce faire, les développeurs remplissent un questionnaire d’expérience – spécifiant si la violence est représentée dans le jeu et sa fréquence, son niveau d’intensité et la présence de sang – qui générera le groupe d’âge recommandé pour leur jeu. À partir de janvier, les jeux dont les développeurs n’ont pas rempli de questionnaire d’expérience ne seront pas recommandés aux jeunes utilisateurs. (Le forum de développement ne précise pas si les jeunes utilisateurs peuvent toujours trouver ces jeux indépendamment.)
JeuxServer s’est entretenu avec un développeur Roblox spécialisé dans la création de jeux adaptés aux familles et qui souhaitait rester anonyme en raison de sa relation avec Roblox. Ils pensent que Roblox prend des mesures énergiques pour informer les parents, mais qu’il incombe en fin de compte aux parents de surveiller l’activité de leurs enfants.
« Roblox fait de grands changements et s’efforce d’informer les parents du contenu trouvé dans des jeux particuliers avec des limites d’âge, mais il appartient toujours aux parents de surveiller leurs jeunes enfants et de leur enseigner les consignes de sécurité en ligne et les règles à suivre », ont-ils déclaré.
Carolyn et son mari ont joué un rôle actif dans la vie numérique de leurs enfants et ont régulièrement joué à des jeux Roblox avec leurs enfants. Elle et son mari ont grandi en jouant à des jeux comme RuneScape et Ragnarök en lignedonc les deux étaient conscients des dangers potentiels de jouer avec d’autres en ligne.
«Nous avions une assez bonne idée des choses qui peuvent continuer et des choses qui peuvent être publiées avec juste du texte et du chat vocal. Et puis, plus récemment, les jeux de manipulation par l’utilisateur – comme les jeux où vous pouvez placer des choses et changer des choses sur votre personnage – je pense que ce genre de chose a ouvert une nouvelle chose dont les parents doivent s’inquiéter.
Ces directives d’expérience ne font qu’ajouter aux défis de modération existants sur la plate-forme. Bien que le contenu de certains jeux puisse être jugé adapté à l’âge par les développeurs, les enfants peuvent toujours interagir avec d’autres sur la plate-forme par le biais de jeux de rôle. Les jeux de rôle avec des éléments imaginaires et des interactions de personnages sont parmi les plus populaires sur la plateforme. Cela ouvre des possibilités d’interactions inappropriées, soit via le chat, soit avec des éléments de jeu de rôle. Ainsi, bien qu’un jeu ne contienne pas de sang ni aucun contenu soumis à une limite d’âge marqué comme approprié par l’enquête, un utilisateur peut toujours entrer dans le jeu et simuler une agression.
Les conditions d’utilisation et les normes communautaires de Roblox sont des règles de contenu relativement strictes par rapport à d’autres plateformes et sites de médias sociaux, comme YouTube. Par exemple, Roblox interdit les représentations de romance et les représentations de partis politiques, en plus d’interdire explicitement le contenu sur les groupes extrémistes. Pour faire respecter ces règles, la société modère également via un système de signalement, qui permet aux utilisateurs ou à un parent de signaler un utilisateur spécifique ou un jeu qui enfreint les conditions de Roblox.
Image : Roblox
JeuxServer a contacté Roblox et a reçu le commentaire suivant :
« Pour déterminer la pertinence du contenu pour chaque catégorie d’âge, nous avons examiné les normes mondiales de l’industrie et consulté des experts en développement de l’enfant pour guider nos politiques. Les expériences mises en lumière dans [Carolyn’s] Les fils Twitter sont marqués comme « Tous les âges » car le contenu convient généralement à tous les âges et peut contenir de la violence légère peu fréquente et/ou du sang léger et irréaliste », a déclaré un porte-parole de Roblox à JeuxServer par e-mail.
Le porte-parole a également déclaré que si le nouveau système a élargi le pool d’expériences, la société a amélioré les contrôles parentaux afin que les parents puissent personnaliser l’accès aux expériences en fonction des recommandations d’âge.
Alors que la part des joueurs plus âgés de Roblox augmente, il reste un grand nombre d’utilisateurs de moins de 13 ans. Il est vrai que Roblox adopte une position plus ferme en matière de modération de contenu par rapport aux autres plates-formes de contenu, mais même dans ce cas, des changements comme ceux-ci peuvent exposer ses jeunes utilisateurs à un contenu plus adapté à leur âge sur la plate-forme. Après avoir tweeté, autres parents et membres de la famille ont dit qu’ils avaient supprimé le jeu, et d’autres ont partagé leurs propres histoires d’horreur.
Donc, pour l’instant, prise entre des changements massifs dans une entreprise et les caprices de ses propres enfants, Carolyn s’en est tenue à la décision de supprimer leurs comptes. Heureusement pour elle, il semblait que tout s’était bien passé.
«Je m’attendais à un énorme effondrement. Mais ils étaient en fait vraiment cool avec ça. Ils sont comme, D’accord, tu sais, si ça redevient sûr, on rejouera. Et j’étais comme, Ouais. Ouah. Très bien. Frais.”