Les dirigeants et les employés de TikTok étaient bien conscients que ses fonctionnalités favorisaient une utilisation compulsive de l’application, ainsi que ses effets négatifs sur la santé mentale, selon Radio Nationale Publique. L’organisme de radiodiffusion a examiné les documents non expurgés du procès intenté par le bureau du procureur général du Kentucky, tels que publiés par la radio publique du Kentucky. Il y a quelques jours, plus d’une douzaine d’États ont poursuivi TikTok en justice, l’accusant de « prétendre à tort » [that it’s] sans danger pour les jeunes. » Le procureur général du Kentucky, Russell Coleman, a déclaré que l’application était « spécialement conçue pour être une machine à dépendance, ciblant les enfants qui sont encore en train de développer une maîtrise de soi appropriée ».
La plupart des documents soumis pour les poursuites contenaient des informations expurgées, mais celui du Kentucky avait des expurgations défectueuses. Apparemment, les propres recherches de TikTok ont révélé que « l’utilisation compulsive est en corrélation avec une série d’effets négatifs sur la santé mentale, tels que la perte de compétences analytiques, la formation de la mémoire, la pensée contextuelle, la profondeur de la conversation, l’empathie et une anxiété accrue ». Les dirigeants de TikTok savaient également que l’utilisation compulsive pouvait interférer avec le sommeil, le travail et les responsabilités scolaires, et même « la connexion avec ses proches ».
Ils sauraient également que l’outil de gestion du temps de l’application ne contribue guère à éloigner les jeunes utilisateurs de l’application. Alors que l’outil fixe la limite par défaut d’utilisation de l’application à 60 minutes par jour, les adolescents passaient toujours 107 minutes sur l’application, même lorsqu’elle était allumée. C’est seulement 1,5 minute de moins que l’utilisation moyenne de 108,5 minutes par jour avant le lancement de l’outil. Sur la base des documents internes, TikTok a basé le succès de l’outil sur la façon dont il « améliore[ed] la confiance du public dans la plateforme TikTok via la couverture médiatique. » L’entreprise savait que l’outil n’allait pas être efficace, avec un document disant que «[m]Les mineurs n’ont pas de fonction exécutive pour contrôler leur temps d’écran, contrairement aux jeunes adultes. » Un autre document aurait indiqué que « pour la plupart des mesures d’engagement, plus l’utilisateur est jeune, meilleures sont les performances ».
De plus, TikTok aurait connaissance de l’existence de « bulles de filtre » et comprendrait à quel point elles pourraient être potentiellement dangereuses. Les employés ont mené des études internes, selon les documents, dans lesquelles ils se sont retrouvés aspirés dans des bulles de filtres négatifs peu de temps après avoir suivi certains comptes, tels que ceux axés sur le contenu douloureux (« painhub ») et triste (« sadnotes »). Ils sont également conscients du contenu et des comptes faisant la promotion de la «thinspiration», associée aux troubles de l’alimentation. En raison du fonctionnement de l’algorithme de TikTok, ses chercheurs ont découvert que les utilisateurs sont placés dans des bulles filtrantes après 30 minutes d’utilisation en une seule séance.
TikTok a également du mal à être modéré, selon les documents. Une enquête interne a révélé que des filles mineures sur l’application recevaient des « cadeaux » et des « pièces » en échange de se déshabiller en direct. Et les hauts responsables de l’entreprise auraient demandé à leurs modérateurs de ne pas supprimer les utilisateurs signalés comme ayant moins de 13 ans à moins que leurs comptes n’indiquent qu’ils ont effectivement moins de 13 ans. Radio Nationale Publique Selon TikTok, il a également reconnu qu’un nombre important de contenus violant ses règles passent par ses techniques de modération, notamment des vidéos qui normalisent la pédophilie, glorifient les agressions sexuelles mineures et les abus physiques.
Le porte-parole de TikTok, Alex Haurek, a défendu l’entreprise et a déclaré à l’organisation que la plainte de Kentucky AG « sélectionne des citations trompeuses et sort des documents obsolètes de leur contexte pour déformer notre engagement en faveur de la sécurité de la communauté ». Il a également déclaré que TikTok dispose de « mesures de protection robustes, qui incluent la suppression proactive des utilisateurs mineurs suspectés » et qu’il a « volontairement lancé des fonctionnalités de sécurité telles que des limites de temps d’écran par défaut, le couplage familial et la confidentialité par défaut pour les mineurs de moins de 16 ans ».