TikTok ouvre un centre de transparence alors que les législateurs pèsent sur l’interdiction américaine

TikTok regarde le baril d’une interdiction pure et simple aux États-Unis. Il a déjà été interdit sur les appareils des employés fédéraux, bloqué par des dizaines d’universités à travers le pays, et les législateurs demandent sa suppression des magasins d’applications américains.

C’est dans ce contexte que moi-même et une poignée d’autres journalistes avons été invités au siège de la société à Los Angeles plus tôt cette semaine pour la première tournée médiatique de son « Transparency and Accountability Center ». C’est un espace qui, comme la discussion politique sur TikTok ces jours-ci, semble plus sur la signalisation de la vertu qu’autre chose. Les responsables de l’entreprise affirment que le centre est conçu pour les régulateurs, les universitaires et les auditeurs pour en savoir plus sur le fonctionnement de l’application et ses pratiques de sécurité. On nous a dit qu’un politicien-qui-ne-serait-pas-nommé l’avait visité la veille. TikTok prévoit éventuellement d’ouvrir plus de centres à Washington, DC, Dublin et Singapour.

Notre tournée faisait partie d’un blitz de presse de plusieurs semaines de TikTok pour pousser Project Texas, une nouvelle proposition au gouvernement américain qui partitionnerait les données des utilisateurs américains au lieu d’une interdiction complète. Le PDG de TikTok, Shou Zi Chew, était à DC la semaine dernière pour donner un discours similaire aux décideurs politiques et aux groupes de réflexion. En mars, il devrait témoigner pour la première fois devant le Congrès.

TikTok n’est pas la première entreprise technologique en difficulté à s’appuyer sur le spectacle d’un espace physique pendant une crise de relations publiques. En 2018, Facebook a invité des journalistes à visiter sa «War Room» électorale, qui n’était en réalité qu’une salle de conférence glorifiée remplie d’employés regardant les flux et les tableaux de bord des médias sociaux. Des photos ont été prises, des histoires ont été écrites, puis la War Room a été fermée environ un mois plus tard.

De la même manière, le centre de transparence de TikTok est beaucoup de fumée et de miroirs conçus pour donner l’impression qu’il vraiment se soucie. De grands écrans tactiles expliquent comment TikTok fonctionne à un niveau élevé, ainsi qu’un large aperçu du type d’efforts de confiance et de sécurité qui sont devenus des enjeux de table pour toute grande plate-forme.

Une différence clé, cependant, est une pièce dans laquelle mon groupe de touristes n’a pas été autorisé à entrer. Derrière un mur avec un éclairage d’ambiance semblable à celui de l’étoile de la mort, les responsables de TikTok ont ​​déclaré qu’une salle de serveurs hébergeait le code source de l’application pour que des auditeurs externes puissent l’examiner. Toute personne qui entre est tenue de signer un accord de non-divulgation, de passer par des détecteurs de métaux et de ranger son téléphone dans un casier de stockage. (Il n’était pas clair qui exactement serait autorisé à entrer dans la pièce.)

La partie interactive du centre que j’ai pu découvrir comprenait une salle avec des iMac exécutant une version fictive du logiciel que TikTok dit que ses modérateurs utilisent pour réviser le contenu. Il y avait une autre pièce avec des iMac exécutant des «simulateurs de code». Bien que cela ait semblé intrigant, il ne s’agissait en réalité que d’une explication de base de l’algorithme de TikTok qui semblait conçue pour être saisie par un membre typique du Congrès. Les photos en gros plan des écrans d’ordinateur n’étaient pas autorisées. Et bien qu’il soit appelé un centre de transparence, le service des relations publiques de TikTok a fait en sorte que tout le monde s’engage à ne pas citer ou attribuer directement les commentaires des employés menant la tournée.

Sur le poste de travail du modérateur, on m’a montré des vidéos potentiellement en infraction à examiner, ainsi que des informations de base telles que les comptes qui les ont publiées et le nombre de likes et de partages de chaque vidéo. Lorsque j’ai arrêté l’un des hommes qui parlaient à la caméra avec la légende « le monde évoque le 11 septembre pour justifier les musulmans comme des t3rrori$ts », le système de modération m’a demandé de sélectionner s’il violait l’une des trois politiques, dont une sur les « menaces et incitations à la violence ».

Au simulateur de code iMac dans l’autre pièce, j’espérais en savoir plus sur le fonctionnement réel du système de recommandations de TikTok. C’était, après tout, un endroit physique où vous deviez vous rendre. Il y aurait sûrement une sorte d’information que je ne pourrais trouver nulle part ailleurs ?

Voici ce que j’ai obtenu : TikTok commence par utiliser un « modèle d’apprentissage automatique grossier » pour sélectionner « un sous-ensemble de quelques milliers de vidéos » parmi les milliards hébergés par l’application. Ensuite, un « modèle d’apprentissage machine moyen réduit davantage le pool de rappel à un plus petit pool de vidéos » qui vous intéressera. Enfin, un « modèle d’apprentissage machine fin » fait la dernière passe avant de diffuser des vidéos qu’il pense que vous allez comme dans votre page Pour vous.

Les informations affichées étaient désespérément vagues. Une diapositive indique que TikTok « recommande du contenu en classant les vidéos en fonction d’une combinaison de facteurs, y compris les intérêts que les nouveaux utilisateurs transmettent à TikTok la première fois qu’ils interagissent avec l’application, ainsi que l’évolution des préférences au fil du temps ». C’est exactement comme ça qu’on s’attendrait à ce que ça marche.

TikTok a tenté pour la première fois d’ouvrir ce centre de transparence en 2020, lorsque le président de l’époque, Donald Trump, tentait d’interdire l’application et que Kevin Mayer en était le PDG pendant trois mois. Mais ensuite, la pandémie s’est produite, retardant l’ouverture du centre jusqu’à maintenant.

Au cours des trois dernières années, le déficit de confiance de TikTok envers DC n’a fait que s’aggraver, alimenté par un sentiment anti-chinois croissant qui a commencé à droite et est depuis devenu plus bipartite. La pire révélation a eu lieu fin décembre, lorsque l’entreprise a confirmé que des employés avaient accédé de manière inappropriée aux données de localisation de plusieurs journalistes américains dans le cadre d’une enquête interne sur une fuite. Ce même mois, le directeur du FBI Chris Wray averti que la Chine pourrait utiliser TikTok pour « manipuler le contenu et, si elle le souhaite, l’utiliser pour des opérations d’influence ».

La réponse de TikTok à ces préoccupations est Project Texas, un plan hautement technique et sans précédent qui séparerait la plupart des opérations américaines de TikTok de sa société mère chinoise, ByteDance. Pour faire du projet Texas une réalité, TikTok s’appuie sur Oracle, dont le fondateur milliardaire Larry Ellison a mis à profit ses relations en tant que donateur républicain influent pour personnellement obtenir la bénédiction de Trump dans la première phase des négociations. (Personne d’Oracle n’était présent au briefing auquel j’ai assisté, et ma demande de parler avec quelqu’un là-bas pour cette histoire n’a pas été répondue.)

On m’a donné un bref aperçu du projet Texas avant la tournée, mais on m’a demandé de ne pas citer les employés qui ont présenté directement. Un graphique que l’on m’a montré présentait un bâtiment semblable à la Cour suprême avec cinq piliers montrant les problèmes que le projet Texas est censé résoudre : la conception de l’organisation, la protection des données et le contrôle d’accès, l’assurance technique, l’assurance du contenu, la conformité et la surveillance.

TikTok dit qu’il a déjà fallu des milliers de personnes et plus de 1,5 milliard de dollars pour créer le projet Texas. L’effort implique que TikTok crée une entité juridique distincte appelée USDS avec un conseil indépendant de ByteDance qui rend compte directement au gouvernement américain. Plus de sept auditeurs externes, dont Oracle, examineront toutes les données entrant et sortant de la version américaine de TikTok. Seules les données des utilisateurs américains seront disponibles pour former l’algorithme aux États-Unis, et TikTok indique qu’il y aura des exigences de conformité strictes pour tout accès interne aux données américaines. Si la proposition est approuvée par le gouvernement, la maintenance coûtera à TikTok entre 700 millions et 1 milliard de dollars par an.

Que Project Texas satisfasse ou non le gouvernement, il semble certainement que cela rendra le travail chez TikTok plus difficile. La version américaine de TikTok devra être entièrement déconstruite, reconstruite et publiée par Oracle dans les magasins d’applications américains. Oracle devra également examiner chaque mise à jour d’application. Des rôles en double seront créés pour TikTok aux États-Unis, même si les mêmes rôles existent déjà pour TikTok ailleurs. Et les performances des applications pourraient souffrir lorsque les Américains interagissent avec des utilisateurs et du contenu dans d’autres pays, car les données des utilisateurs américains doivent être gérées à l’intérieur du pays.

Un nom qui n’a pas été prononcé pendant tout le briefing : ByteDance. J’ai eu l’impression que les employés de TikTok se sentaient mal à l’aise de parler de leur relation avec leur société mère.

Alors que ByteDance n’était pas directement reconnu, ses liens avec TikTok n’étaient pas cachés non plus. Le Wi-Fi du bâtiment dans lequel je me trouvais s’appelait ByteDance et les écrans des salles de conférence du centre de transparence affichaient Lark, l’outil de communication interne développé par ByteDance pour ses employés du monde entier. À un moment donné de la tournée, j’ai essayé de demander ce qui se passerait hypothétiquement si, une fois le projet Texas allumé, un employé de Bytedance en Chine faisait une demande inconfortable à un employé de l’entité américaine de TikTok. Un membre de l’équipe de relations publiques de TikTok m’a rapidement dit que la question n’était pas appropriée pour la tournée.

En fin de compte, j’ai eu le sentiment que, comme son algorithme puissant, TikTok a construit son centre de transparence pour montrer aux gens ce qu’il pense qu’ils veulent voir. La société semble avoir réalisé qu’elle ne se sauverait pas d’une interdiction américaine sur les mérites techniques de sa proposition de projet Texas. Le débat est désormais purement politique et optique. Contrairement à la tournée que j’ai faite, c’est quelque chose que TikTok ne peut pas contrôler.