Une chercheuse dit avoir été virtuellement agressée après seulement une heure dans le métaverse

Contenu de l’article

Après seulement une heure dans le métaverse, une chercheuse a déclaré que son avatar avait été agressé sexuellement par un autre utilisateur, tandis que d’autres regardaient.

Contenu de l’article

Le chercheur évaluait le comportement en ligne dans le métaverse pour l’organisation à but non lucratif de responsabilité d’entreprise SumOfUs. Elle a déclaré que moins d’une heure après son entrée sur la plate-forme Horizon Worlds, d’autres utilisateurs l’ont encouragée à supprimer les paramètres de sécurité personnels qui offraient une bulle d’espace personnel de quatre pieds aux utilisateurs, puis son avatar a été agressé.

Vous pouvez regarder un enregistrement de l’expérience du chercheur ici (avertissement de contenu : langage et contenu à caractère sexuel)

La résultante rapport de SumOfUs intitulé « Metaverse : un autre cloaque de contenu toxique », décrit les récits d’utilisateurs de harcèlement, de violence et de modération laxiste sur la plate-forme de réalité virtuelle Horizon Worlds de Meta.

Le rapport détaillait les expériences de râpémenaces, abus verbaux, utilisation d’insultes raciales et homophobes, et Violence par armes à feu dans le métaverse.

Contenu de l’article

Un compte, qui a été publié par la psychothérapeute et chercheuse en métavers Nina Jane Patel sur Moyen, a décrit comment il a fallu 60 secondes avant que son avatar ne soit harcelé, peloté et «violé en groupe» par un groupe d’avatars masculins.

« J’aimerais être plus surpris, mais d’après ce que nous avons vu sur Facebook ces dernières années, ce n’était pas si surprenant », a déclaré le directeur de campagne de SumOfUs, Rewan Al-Haddad. « Mais c’est vraiment décevant qu’il atteigne ce niveau dans le métaverse. »

Alors que les mauvais comportements sur Internet ne sont pas nouveaux, la réalité virtuelle sociale est différente des médias sociaux classiques car l’utilisateur est immergé dans le monde virtuel.

La vue panoramique offerte par le casque VR, l’utilisation de sons et même les commandes portables qui simulent le toucher en font une expérience multisensorielle. Cela crée un sentiment « d’être là » pour l’utilisateur et réduit la séparation entre le corps virtuel de l’utilisateur et son corps physique, explique un rapport du Carr Center de Harvard.

Contenu de l’article

Cela rend les expériences de haine, de violence et de harcèlement sexuel en ligne dans la réalité virtuelle plus réelles.

Par exemple, lorsque d’autres avatars touchent le vôtre dans Horizon Worlds, les manettes vibrent. Pour le chercheur de SumOfUs, cette fonction a créé une « expérience très étrange d’être agressée sexuellement, très confuse par ce qui se passait, puis de vivre également cette réponse physique », a déclaré Al-Haddad.

Modérer l’activité en ligne sur n’importe quelle plate-forme peut être difficile. Cela devient encore plus difficile lorsque cela doit être fait en temps réel, et les modérateurs doivent juger non seulement les informations ou le contenu affiché, mais aussi le comportements des utilisateurs.

Pour faciliter le reporting, Meta a mis en place un système de surveillance et d’enregistrement politique pour leurs plateformes VR. Les enregistrements des interactions les plus récentes des utilisateurs sont automatiquement stockés sur leurs casques oculus. Si un utilisateur souhaite signaler un mauvais comportement, des images de l’interaction seront envoyées à Meta afin que les « experts en sécurité » de l’entreprise puissent évaluer les images et décider si elles violent leur conduite. politique.

Contenu de l’article

Mais les critères utilisés par les membres du personnel de Meta pour décider de ce qui constitue une violation ne sont pas clairs. BuzzFeed Les journalistes ont créé un « Qniverse » expérimental, une salle au sein d’Horizon Worlds, qui présentait du contenu interdit sur Facebook et Instagram de Meta, y compris des théories du complot et de la désinformation. Lorsqu’ils ont signalé le monde, on leur a dit que le contenu ne violait pas les directives de la communauté. Ce n’est que lorsque l’équipe de BuzzFeed a contacté directement Meta communications que Qniverse a été supprimé.

Meta a écrit dans un article de blog qu’il s’est engagé à résoudre ces problèmes et a investi dans la recherche de moyens de modérer le contenu pour assurer la sécurité des personnes tout en respectant la vie privée des utilisateurs.

SumOfUs et ses organisations partenaires demandent une plus grande surveillance de l’entreprise et de ses procédures de modération, y compris une évaluation de l’impact sur les droits de l’homme pour la plateforme Horizon Worlds de Meta, une demande qui a été rejetée par l’entreprise.

Al-Haddad a déclaré que cette recherche contribuera à réglementer l’industrie technologique et a souligné la récente adoption par l’Europe Loi sur les services numériques comme un « grand pas en avant » dans la capacité de réglementer ces entreprises.