C’est une vérité universellement reconnu que « l’algorithme » vous connaît mieux que vous ne vous connaissez vous-même. Un ordinateur peut soi-disant prédire si vous quitterez votre emploi ou romprez avec votre partenaire. Avec 1 000 mots de votre écriture, il peut déterminer votre âge en quatre ans. Et aucun algorithme ne semble plus proche de l’omniscience que celui de TikTok, qui aiderait les utilisateurs à découvrir leur sexualité et à déballer leur traumatisme d’enfance. Alors que Facebook vous demande de créer un profil et de remettre un trésor d’informations personnelles dans le processus, TikTok simplement avis-ou semble-t-il. Les résultats peuvent sembler magiques, écrit Jess Joho dans Mashable, comme si TikTok « lisait votre âme comme une sorte d’oracle numérique divin, ouvrant des couches de votre être jamais connues auparavant de votre propre esprit conscient ».
Comme toujours, il y a un côté obscur. La plupart des utilisateurs seront aspirés par WitchTok et des tutoriels sur le jardinage, mais d’autres finiront dans un défilement infini sur le TDAH, le syndrome de Tourette ou l’autisme (#mentalhealth, par exemple, a recueilli près de 21 milliards de vues—une fraction de #dance, qui compte 341 milliards de vues, mais néanmoins une projection significative). Cette information peut être extrêmement libératrice, en particulier pour les conditions généralement entourées de stigmatisation. Mais certains s’inquiètent de la déférence accordée au contenu pseudo-psychiatrique de la plateforme. « Une fois [the algorithm] vous met de côté, cela vous maintient là », explique le professeur de psychologie Inna Kanevsky, mieux connu sur TikTok sous le nom de @dr_inna démystifiant, « et il commence à sembler que vous êtes diagnostiqué. » C’est un plat à emporter potentiellement bouleversant offert par un algorithme à but lucratif et des créateurs de contenu de fiabilité variable.
Mais le débat sur l’autodiagnostic n’est qu’une petite partie de la manière dont nous positionnons TikTok et des algorithmes similaires non pas comme de simples machines générant des prédictions, mais comme des machines produisant des informations. Alors que les algorithmes de recommandation d’Amazon à Netflix sont conçus pour deviner ce que vous aimeriez voir ensuite, TikTok peut avoir l’impression de vous montrer qui vous avez toujours été. Dans le processus, nous nous exposons au péril et à la promesse de « externaliser la conscience de soi vers l’IA ». Bien que cette nouvelle relation à l’informatique puisse offrir de nouvelles opportunités de croissance personnelle, elle a également commencé à nous classer dans des identités de plus en plus rigides.
L’esprit humain a essayé de se comprendre à travers des métaphores technologiques pendant des milliers d’années, écrit l’expert en intelligence artificielle George Zarkadakis dans son livre de 2016 À notre propre image. Dans l’empire romain, par exemple, le succès de l’ingénierie hydraulique a donné naissance à la compréhension de l’intelligence humaine comme le flux de quatre « humeurs ». Maintenant, nous décrivons le cerveau comme un ordinateur, l’une des nombreuses machines qui « stocke » et « récupère » des souvenirs et « traite des informations ». Bien que toutes ces métaphores restent profondément erronées, l’étroite collaboration des neurosciences humaines et de l’informatique a révélé des similitudes intrigantes entre nos esprits et nos machines.
Comme tout algorithme, les propriétés divinatoires de TikTok ne sont que le résultat final d’une série d’étapes répétées. Lorsqu’une personne crée un nouveau compte, l’algorithme la cible avec une variété de vidéos populaires conçues pour tester sa réponse à de larges catégories de contenu, des danses virales aux réparations domiciliaires, selon un récent le journal Wall Street enquête. Lorsque le journal a lâché plus de 100 bots sur TikTok, le « trou de lapin » de la plate-forme a saisi les intérêts préprogrammés de chaque bot en moins de deux heures.
Ce sont des mathématiques assez simples, mais c’est aussi une imitation étrange de l’apprentissage statistique, explique John Bargh, professeur de psychologie et de sciences cognitives à l’Université de Yale. C’est une façon pour l’esprit humain d’acquérir inconsciemment de nouvelles connaissances, simplement en remarquant des modèles dans le monde qui l’entoure. Comme l’algorithme TikTok, les gens apprennent tout le temps, souvent sans même s’en rendre compte.
En d’autres termes, c’est un processus qui se déroule principalement à l’insu d’une personne, et qui est pourtant entièrement déterminé par ce qui attire votre attention.