OLorsqu’il a lancé son rachat de Twitter plus tôt cette année, Elon Musk a suscité la consternation en déclarant qu’il assouplirait les politiques de modération de contenu de la plate-forme de médias sociaux – une décision qui pourrait mettre Twitter sur une trajectoire de collision avec les régulateurs numériques de l’UE. Dans un monde en ligne rempli de contenus offensants et potentiellement dangereux – discours de haine, harcèlement, désinformation, incitations à la violence, comptes faisant la promotion de l’automutilation et des troubles de l’alimentation – le problème de la modération des contenus devient de plus en plus épineux. Qu’est-ce qui est considéré comme un contenu préjudiciable ? Qui décide et pourquoi ?
Nous avons dû supprimer ce message, le septième roman de l’auteure néerlandaise Hanna Bervoets et son premier à être traduit en anglais, n’est rien sinon opportun. Sa jeune narratrice, Kayleigh, vient de quitter son emploi de modératrice de contenu avec une grande filiale technologique fictive appelée Hexa. Son rôle consistait à examiner des centaines de publications problématiques sur les réseaux sociaux et à décider, en se référant à un ensemble complexe de critères, lesquels supprimer. Ce travail a fait des ravages sur la santé mentale de ses anciens collègues, dont plusieurs intentent une action en justice conjointe contre l’entreprise : l’un est tellement paranoïaque qu’il garde un pistolet paralysant près du lit la nuit ; une autre « ne peut pas gérer les bruits forts, les lumières vives ou les mouvements soudains de sa vision périphérique ». Le roman prend la forme d’une lettre adressée à leur avocat, qui a invité Kayleigh à se joindre à l’action en justice.
Inscrivez-vous à notre newsletter Inside Saturday pour un aperçu exclusif des coulisses de la réalisation des plus grands articles du magazine, ainsi qu’une liste organisée de nos faits saillants hebdomadaires.
Le narrateur de Bervoets déplore les conditions de travail oppressantes chez Hexa et le manque de soutien en santé mentale pour une main-d’œuvre régulièrement exposée à du matériel bouleversant. Elle nous donne un aperçu des problèmes de définition auxquels les modérateurs de contenu sont confrontés : par exemple, une vidéo mettant en scène deux chatons morts compte-t-elle comme de la cruauté envers les animaux, s’ils sont déjà morts au début du clip ? Kayleigh et ses collègues deviennent de plus en plus blasés et nerveux à mesure que leurs nerfs s’épuisent à force de regarder un contenu aussi violent : les effets sonores des coups de feu sur le jeu de console de son amie « m’ont donné une sensation de serrement dans la poitrine » ; la vue d’un ouvrier du bâtiment sur le toit d’un bâtiment adjacent provoque la panique parmi le personnel d’Hexa, qui suppose à tort qu’il est sur le point de sauter.
Ce scénario est entrelacé avec un récit quelque peu pulpeux de la vie romantique de Kayleigh. La première est Barbara, qui lui brise le cœur en invitant unilatéralement une troisième femme dans leur relation. Ensuite, il y a Yena, retenue émotionnellement et manipulatrice, dont l’insécurité quant à son apparence physique suscite une épiphanie banale : « J’ai commencé à réaliser que ce n’était pas moi qui était le problème. C’était les normes de beauté que la société nous imposait, le dégoût de soi et l’abandon remontant à l’enfance… » Vient ensuite Sigrid, une collègue plus âgée qui « était surtout très cool dans sa veste en cuir moulante » ; Kayleigh lui confie la culpabilité qu’elle ressent encore pour la mort de son hamster à l’âge de 10 ans – « c’était comme si je la laissais entrer dans le sous-sol de mon âme ». Un édit sur le lieu de travail interdisant «les actes sexuels dans et autour du bâtiment» donne un bref coup de fouet à leur liaison – ils commencent à s’y mettre dans un placard à papeterie – avant que les choses ne se dirigent vers le sud.
Le thème qui relie ces récits parallèles est le manque de fiabilité de l’interprétation subjective : dans une dynamique relationnelle incertaine, comme dans le cas d’un contenu en ligne douteux, le contexte et la perspective sont essentiels, et les choses ne sont pas toujours telles qu’elles apparaissent. Le point est bien mis en évidence dans le dénouement choquant du roman, mais à ce stade, le crochet d’actualité est devenu laborieux au point d’épuisement : l’un des copains de Kayleigh s’est révélé être un Terrien plat, et un personnage juif s’est disputé avec des antisémites à propos de George Soros. Le dialogue de ces passages est particulièrement mou et télégraphié.
D’autres auteurs ont exploré un terrain similaire avec plus de subtilité. Les mémoires romanesques de Heike Geissler en 2018, Seasonal Associate, écrites du point de vue d’une employée d’Amazon, ont approfondi la psyché de sa narratrice pour disséquer les implications éthiques et politiques de sa position au sein de l’industrie technologique. Nous avons dû supprimer ce message, quant à lui, offre peu d’acuité psychologique. C’est dommage car la vanité centrale du roman – l’idée de voir les relations interpersonnelles à travers le même prisme que les méchants vidéo en ligne – est véritablement intrigante.