Un ancien modérateur de contenu pour TikTok a déposé une plainte contre la plate-forme, alléguant que la société mère ByteDance fournit des garanties inadéquates pour protéger la santé mentale des modérateurs contre une attaque presque constante de séquences traumatisantes.
Dans un projet de recours collectif déposé devant le tribunal de district central de Californie, Candie Frazier a déclaré avoir passé 12 heures par jour à modérer des vidéos téléchargées sur TikTok pour une société de sous-traitance nommée Telus International. À cette époque, Frazier dit avoir été témoin de « milliers d’actes de violence extrême et graphique », notamment des fusillades de masse, des viols d’enfants, des mutilations d’animaux, du cannibalisme, des meurtres de gangs et des génocides.
Frazier dit que pour faire face à l’énorme volume de contenu téléchargé quotidiennement sur TikTok, elle et ses collègues modérateurs devaient regarder entre trois et dix vidéos simultanément, avec de nouvelles vidéos chargées au moins toutes les 25 secondes. Les modérateurs ne sont autorisés à prendre qu’une pause de 15 minutes au cours des quatre premières heures de leur quart de travail, puis des pauses supplémentaires de 15 minutes toutes les deux heures par la suite. Le procès indique que ByteDance surveille de près les performances et « punit lourdement tout temps passé à regarder des vidéos graphiques ».
Le procès indique que TikTok et ses partenaires n’ont pas respecté les normes reconnues par l’industrie visant à atténuer les méfaits de la modération de contenu. Il s’agit notamment d’offrir aux modérateurs des pauses plus fréquentes, un soutien psychologique et des garanties techniques telles que le flou ou la réduction de la résolution des vidéos en cours d’examen.
À la suite de son travail, Frazier dit qu’elle a subi «un traumatisme psychologique grave, notamment une dépression et des symptômes associés à l’anxiété et au SSPT». Le procès dit que Frazier a « du mal à dormir et quand elle dort, elle fait des cauchemars horribles. Elle reste souvent éveillée la nuit en essayant de s’endormir, en rejouant des vidéos qu’elle a vues dans sa tête. Elle a des attaques de panique graves et débilitantes.
Le témoignage dans le procès de Frazier correspond aux rapports de modérateurs de contenu travaillant (généralement indirectement) pour d’autres grandes entreprises technologiques comme Facebook, YouTube et Google. Au cours des dernières années, les terribles conditions de travail auxquelles sont confrontés ces modérateurs – une main-d’œuvre absolument cruciale pour maintenir la rentabilité de certaines des plus grandes entreprises du monde – sont de plus en plus scrutées. Des rapports comme celui de Frazier, cependant, suggèrent que malgré l’attention supplémentaire, les conditions de travail pour les modérateurs sont toujours incroyablement difficiles.
Le procès de Frazeri a été déposé par le cabinet d’avocats californien Joseph Saveri, qui avait déjà déposé un procès similaire en 2018 contre des modérateurs examinant du contenu pour Facebook. Cette affaire a donné lieu à un règlement de 52 millions de dollars versé par Facebook à ses modérateurs de contenu. Le bord a contacté ByteDance pour commentaires et mettra à jour cette histoire si nous avons des nouvelles.