En décembre dernier, les Nations Unies ont mis en garde contre une « menace terroriste émergente » négligée mais critique : les extrémistes radicalisant les membres des communautés de jeux en ligne.
Malgré un grand intérêt pour sauver les joueurs d’une telle exploitation, les experts disent qu’un manque de financement de la recherche sur le sujet a mis l’industrie du jeu derrière les réseaux sociaux lorsqu’il s’agit d’efforts de lutte contre le terrorisme. Cela commence à changer, cependant. Au cours de la semaine dernière, des chercheurs ont déclaré à Ars que le Département américain de la sécurité intérieure avait, pour la première fois, accordé un financement – près de 700 000 dollars – à un groupe de recherche travaillant directement avec les principales sociétés de jeux pour développer des méthodes antiterroristes efficaces et protéger les joueurs vulnérables.
Le nouveau projet s’étalera sur deux ans. Il est dirigé par l’Institut d’études internationales du Middlebury College, qui héberge le Centre sur le terrorisme, l’extrémisme et le contre-terrorisme (CTEC). Vice a rapporté que d’autres partenaires incluent une organisation à but non lucratif appelée Take This, qui se concentre sur les impacts du jeu sur la santé mentale, et une société de technologie appelée Logically, qui, selon Vice, travaille « pour résoudre le problème des mauvais comportements en ligne à grande échelle ».
Les chercheurs ont résumé leurs objectifs généraux pour le projet DHS comme «le développement d’un ensemble de meilleures pratiques et de ressources centralisées pour le suivi et l’évaluation des activités extrémistes ainsi qu’une série d’ateliers de formation pour le suivi, la détection et la prévention de l’exploitation extrémiste. dans les espaces de jeu pour les gestionnaires de communauté, les concepteurs multijoueurs, les développeurs de traditions, les concepteurs de mécanismes et les professionnels de la confiance et de la sécurité.
Rachel Kowert, directrice de recherche de Take This, a déclaré à Ars que l’objectif principal du projet était de développer des ressources axées sur l’industrie du jeu. Le plan ambitieux de son groupe est de toucher d’abord les grandes entreprises, puis d’engager les petites entreprises et les développeurs indépendants pour un impact maximal.
Alex Newhouse, directeur adjoint du CTEC, a déclaré à Ars que le projet commencera par cibler les grandes sociétés de jeux qui « agissent essentiellement comme des plateformes sociales », notamment Roblox, Activision Blizzard et Bungie.
Bien que le financement du projet vienne d’être approuvé, M. Newhouse a déclaré que le travail du CTEC avait déjà commencé. Depuis six mois, le groupe travaille avec Roblox, et Newhouse a déclaré qu’il était également en pourparlers « très préliminaires » avec l’Entertainment Software Association sur les moyens d’étendre le projet.
Emprunter les méthodes antiterroristes des réseaux sociaux
Newhouse a déclaré qu’au sein du DHS, le FBI s’intéressait de plus en plus à la recherche comme celle du CTEC pour lutter contre le terrorisme intérieur – mais, à sa connaissance, aucune organisation fédérale n’a financé une telle collecte de données. Bien que son projet ne soit financé que pour deux ans, Newhouse veut pousser l’industrie du jeu d’ici cinq ans à mettre en œuvre les mêmes normes de lutte contre l’extrémisme que les plateformes de réseaux sociaux ont déjà.
« Je veux que les développeurs de jeux, en particulier les grands comme Roblox et Microsoft, aient des équipes dédiées au contre-extrémisme dans les jeux », a déclaré Newhouse à Ars. « De nos jours, nous devons également faire pression pour être aussi sophistiqués du côté de l’industrie des jeux. »
Newhouse prévoit de s’appuyer sur son expérience pour aider des géants de la technologie comme Google et Facebook à organiser des équipes de lutte contre le terrorisme. Il dit que la plus grande priorité de CTEC est de convaincre l’industrie du jeu d’investir dans la modération proactive des contenus extrémistes en « implémentant des systèmes de détection et de modération proactifs de plus en plus sophistiqués » que les réseaux sociaux utilisent également.
Historiquement, Newhouse a déclaré que les sociétés de jeux s’appuyaient principalement sur les joueurs pour signaler le contenu extrémiste à modérer. Ce n’est pas une stratégie suffisante, a-t-il dit, car la radicalisation fonctionne souvent en augmentant l’estime de soi d’un joueur, et les personnes manipulées pour considérer ce type d’engagement en ligne comme positif ne signalent souvent pas eux-mêmes ces événements radicalisants. En s’appuyant strictement sur les rapports des utilisateurs, les sociétés de jeux « ne détecteront rien au niveau initial du recrutement et de la radicalisation », a-t-il déclaré.
Daniel Kelley, directeur associé du Centre pour la technologie et la société de la Ligue anti-diffamation, a déclaré à Ars que les sociétés de jeux en ligne ont environ 10 ans de retard sur les sociétés de médias sociaux pour signaler ce problème comme critique.
Financement limité pour les efforts de lutte contre l’extrémisme des jeux en ligne
Kowert, de Take This, s’est d’abord intéressée au lien entre les communautés de jeux en ligne et l’extrémisme violent dans le monde réel après avoir rencontré une enquête nationale représentative de 2019 de l’ADL. Il a révélé que près d’un répondant sur quatre « était exposé à l’idéologie extrémiste de la suprématie blanche dans les jeux en ligne ». Newhouse a déclaré que cette estimation est « probablement trop prudente à ce stade ».
Pourtant, a déclaré l’ADL, « la preuve du recrutement ou de l’organisation extrémiste généralisée dans les environnements de jeu en ligne (comme dans Fortnite ou d’autres titres populaires) reste au mieux anecdotique, et des recherches supplémentaires sont nécessaires avant que des revendications générales puissent être faites.
Aujourd’hui, la base de recherche reste limitée, mais il est devenu évident que le problème n’affecte pas seulement les adultes. Lorsque l’ADL a élargi son enquête en 2021 pour atteindre près de 100 millions de répondants, l’enquête a inclus pour la première fois de jeunes joueurs âgés de 13 à 17 ans. ADL a constaté que 10 % des jeunes joueurs étaient « exposés aux idéologies de la suprématie blanche dans le contexte des jeux multijoueurs en ligne ».
Kowert a immédiatement répondu au rapport ADL 2019 en faisant pivoter ses recherches et en s’associant à Newhouse. Elle a dit à Ars que la raison pour laquelle il y a si peu de recherche est qu’il y a si peu de financement.
Kelley a déclaré à Ars que s’il est bon de voir enfin la recherche recevoir un financement, l’ADL recommande que le gouvernement injecte beaucoup plus de financement pour étouffer le problème dans l’œuf. « Ce n’est pas le moment de soutenir des choses avec des fonds instantanés », a déclaré Kelley. « Il y a beaucoup plus que le ministère de la Justice doit faire pour financer ce genre d’efforts. »