Les jeux ont le pouvoir de connecter les gens du monde entier dans le plaisir et le travail d’équipe, mais ils peuvent également créer un espace propice aux discours toxiques et à la haine. Activision tente de minimiser ces derniers, en annonçant une nouvelle collaboration avec Modulate, une société utilisant la technologie pour identifier ces problèmes, pour la modération directe du chat vocal dans Appel du devoir.
Le système d’IA de Modulate, ToxMod, tente d’identifier les menaces telles que les discours de haine, la radicalisation et l’automutilation en temps réel. Il prétend fonctionner en trois étapes : trier, analyser et escalader. ToxMod écoute tous les chats vocaux et identifie les éléments qui méritent un examen plus approfondi. Ces données signalées sont stockées sur leurs serveurs, tandis que toutes les autres données seront traitées directement sur l’appareil initial. La société affirme qu’elle évalue ensuite tout, du ton à l’émotion, en analysant non seulement « ce qui est dit, mais aussi comment cela est dit et comment les autres acteurs y réagissent ». Enfin, il tente d’alerter les modérateurs sur les incidents les plus toxiques et leur laisse le soin d’agir. La société affirme qu’il s’agit de la « seule solution de modération vocale native » actuellement disponible, ayant protégé « des dizaines de millions de joueurs ».
L’intégration de ToxMod pourrait aider à prévenir les réponses toxiques dans leur ensemble, en travaillant parallèlement aux systèmes de reporting et centrés sur le texte existants. « S’attaquer au chat vocal perturbateur en particulier constitue depuis longtemps un défi extraordinaire dans le domaine des jeux vidéo », a déclaré Michael Vance, directeur de la technologie d’Activision, dans un communiqué. « Grâce à cette collaboration, nous apportons désormais la technologie d’apprentissage automatique de pointe de Modulate, capable d’évoluer en temps réel pour un niveau d’application mondial. Il s’agit d’une étape cruciale vers la création et le maintien d’une expérience amusante, équitable et accueillante pour tous les joueurs. » L’année dernière, Activision a commencé à autoriser les équipes de modération des jeux à couper le son des joueurs utilisant un langage toxique dans les discussions vocales et textuelles.
ToxMod est maintenant disponible en version bêta en anglais en Amérique du Nord pour Call of Duty : Guerre moderne II et Appel du devoir : zone de guerre. Il sera diffusé dans le monde entier – à l’exception de l’Asie – lorsque Call of Duty : Guerre moderne III sort le 10 novembre.