La décision de Google de bloquer Le lancement de l’application Truth Social sur le Play Store en raison de problèmes de modération de contenu soulève la question de savoir pourquoi Apple n’a pas pris de mesures similaires sur la version iOS de l’application qui est en ligne sur l’App Store depuis février. Selon un rapport d’Axios, Google a trouvé de nombreux messages qui enfreignaient ses politiques de contenu Play Store, bloquant le chemin de l’application pour être mis en ligne sur sa plate-forme. Mais certains de ces mêmes types de messages semblent être disponibles sur l’application iOS, a constaté TechCrunch.
Cela pourrait déclencher un réexamen de l’application iOS de Truth Social à un moment donné, car les politiques d’Apple et de Google sont largement alignées sur la façon dont les applications avec du contenu généré par l’utilisateur doivent modérer leur contenu.
Axios a annoncé cette semaine pour la première fois la décision de Google de bloquer la distribution de l’application Truth Social sur sa plate-forme, à la suite d’une interview accordée par le PDG de l’application, Devin Nunes. L’ancien membre du Congrès et membre de l’équipe de transition de Trump, maintenant PDG des médias sociaux, a suggéré que le retard avec la sortie Android de l’application était du côté de Google, en disant: «Nous attendons qu’ils nous approuvent, et je ne sais pas ce qui prend Si longtemps. »
Mais il s’agissait d’une mauvaise interprétation de la situation, a déclaré Google. Après avoir examiné la dernière soumission de Truth Social au Play Store, Google a constaté plusieurs violations de la politique, dont il a informé Truth Social le 19 août. Google a également informé Truth Social de la manière dont ces problèmes pourraient être résolus afin d’accéder au Play Store. , a noté la société.
« La semaine dernière, Truth Social a répondu en reconnaissant nos commentaires et en disant qu’ils travaillaient à résoudre ces problèmes », a déclaré un porte-parole de Google dans un communiqué. Cette communication entre les parties avait lieu une semaine avant l’interview de Nunes où il laissait entendre que la balle était maintenant dans le camp de Google. (Le sous-texte de ses commentaires, bien sûr, était que les médias conservateurs étaient à nouveau censurés par Big Tech.)
Le problème ici découle de la politique de Google pour les applications qui présentent du contenu généré par l’utilisateur, ou UGC. Selon cette politique, les applications de cette nature doivent mettre en œuvre « Modération UGC robuste, efficace et continue, raisonnable et cohérente avec le type d’UGC hébergé par l’application. » La modération de Truth Social, cependant, n’est pas robuste. La société a publiquement déclaré qu’elle s’appuyait sur un système de modération automatisé de l’IA, Hive, qui est utilisé pour détecter et censurer le contenu qui enfreint ses propres politiques. Sur son site Web, Truth Social note que les modérateurs humains « supervisent » le processus de modération, suggérant qu’il utilise un mélange standard de l’industrie de l’IA et de la modération humaine. (Il convient de noter que la société de renseignement App Store Apptopia a déclaré à TechCrunch que l’application mobile Truth Social n’utilisait pas l’IA Hive. Mais elle indique que la mise en œuvre pourrait être côté serveur, ce qui dépasserait la portée de ce qu’elle peut voir.)
L’utilisation par Truth Social de la modération alimentée par l’IA ne signifie pas nécessairement que le système est suffisant pour le mettre en conformité avec les propres politiques de Google. La qualité des systèmes de détection d’IA varie et ces systèmes appliquent en fin de compte un ensemble de règles qu’une entreprise elle-même décide de mettre en œuvre. Selon Google, plusieurs messages de Truth Social qu’il a rencontrés contenaient des menaces physiques et des incitations à la violence – des domaines interdits par la politique du Play Store.
Crédits image : Liste Play Store de Truth Social
Nous comprenons que Google a spécifiquement souligné le langage de sa politique de contenu généré par l’utilisateur et de sa politique de contenu inapproprié lorsqu’il a pris sa décision concernant Truth Social. Ces politiques incluent les exigences suivantes :
Les applications qui contiennent ou présentent du contenu généré par l’utilisateur doivent :
-
Exigez que les utilisateurs acceptent les conditions d’utilisation et/ou la politique d’utilisation de l’application avant que les utilisateurs puissent créer ou télécharger des UGC.
-
Définissez le contenu et les comportements répréhensibles (d’une manière conforme aux politiques du programme pour les développeurs de Play) et interdisez-les dans les conditions d’utilisation ou les politiques d’utilisation de l’application.
-
Mettre en œuvre une modération UGC robuste, efficace et continue, raisonnable et cohérente avec le type d’UGC hébergé par l’application.
Et:
-
Incitation à la haine — Nous n’autorisons pas les applications qui encouragent la violence ou incitent à la haine contre des personnes ou des groupes en raison de leur race ou de leur origine ethnique, de leur religion, de leur handicap, de leur âge, de leur nationalité, de leur statut d’ancien combattant, de leur orientation sexuelle, de leur sexe, de leur identité de genre, de leur caste ou de leur statut d’immigrant. , ou toute autre caractéristique associée à la discrimination systémique ou à la marginalisation.
-
Violence — Nous n’autorisons pas les applications qui dépeignent ou facilitent la violence gratuite ou d’autres activités dangereuses.
-
Contenu terroriste — Nous n’autorisons pas les applications dont le contenu est lié au terrorisme, tel que le contenu faisant la promotion d’actes terroristes, incitant à la violence ou célébrant des attentats terroristes.
Et tandis que les utilisateurs peuvent être en mesure de publier initialement un tel contenu – aucun système n’est parfait – une application avec du contenu généré par l’utilisateur comme Truth Social (ou Facebook ou Twitter, d’ailleurs) devrait être en mesure de supprimer ces messages en temps opportun. mode afin d’être considéré comme conforme.
Dans l’intervalle, l’application Truth Social n’est pas techniquement « interdite » de Google Play – en fait, Truth Social est toujours en précommande aujourd’hui, comme l’a également souligné Nunes. Il pourrait tout de même apporter des modifications pour se mettre en conformité, ou il pourrait choisir un autre mode de distribution.
Alors que Truth Social décide de son parcours pour Android, un examen des publications sur la version iOS de Truth Social a révélé une gamme de contenus antisémites, y compris la négation de l’Holocauste, ainsi que des publications faisant la promotion de la pendaison d’agents publics et d’autres (y compris ceux de la communauté LGBTQ+ ), les publications prônant la guerre civile, les publications en faveur de la suprématie blanche et de nombreuses autres catégories qui sembleraient enfreindre les propres politiques d’Apple concernant le contenu répréhensible et les applications UGC. Peu étaient derrière un écran de modération.
On ne sait pas pourquoi Apple n’a pas pris de mesures contre Truth Social, car la société n’a pas commenté. Une possibilité est qu’au moment de la soumission initiale de Truth Social à l’App Store d’Apple, la toute nouvelle application avait très peu de contenu à analyser pour une équipe de révision des applications, de sorte qu’elle n’avait aucun contenu non conforme à signaler. Truth Social utilise des écrans de filtrage de contenu sur iOS pour masquer certains messages derrière un avertissement de clic, mais TechCrunch a trouvé que l’utilisation de ces écrans était aléatoire. Alors que les écrans de contenu masquaient certains messages qui semblaient enfreindre les règles de l’application, les écrans masquaient également de nombreux messages qui ne contenaient pas de contenu répréhensible.
En supposant qu’Apple ne prenne aucune mesure, Truth Social ne serait pas la première application à sortir de l’écosystème en ligne pro-Trump et à trouver une maison sur l’App Store. Un certain nombre d’autres applications conçues pour attirer la droite politique avec de nobles promesses d’absence de censure ont également obtenu le feu vert d’Apple.
Les réseaux sociaux Gettr et Parler et l’application de partage de vidéos Rumble ont tous à peu près le même public avec des revendications similaires de modération « sans intervention » et sont disponibles en téléchargement sur l’App Store. Gettr et Rumble sont tous deux disponibles sur le Google Play Store, mais Google a supprimé Parler en janvier 2021 pour incitation à la violence liée à l’attaque du Capitole et ne l’a pas rétabli depuis.
Les trois applications ont des liens avec Trump. Gettr a été créé par l’ancien conseiller de Trump, Jason Miller, tandis que Parler a été lancé avec la bénédiction financière du principal donateur de Trump, Rebekah Mercer, qui a joué un rôle plus actif dans la direction de l’entreprise après l’attaque du 6 janvier contre le Capitole américain. À la fin de l’année dernière, Rumble a conclu un accord de contenu avec la société de médias de l’ancien président Trump, Trump Media & Technology Group (TMTG), pour fournir du contenu vidéo à Truth Social.
De nombreux réseaux sociaux ont été impliqués dans l’attaque du 6 janvier – à la fois les réseaux sociaux grand public et les applications s’adressant explicitement aux partisans de Trump. Sur Facebook, les théoriciens du complot électoral ont afflué vers des groupes populaires et organisés ouvertement autour de hashtags tels que #RiggedElection et #ElectionFraud. Les utilisateurs de Parler figuraient en bonne place parmi les émeutiers qui se sont précipités dans le Capitole des États-Unis, et Gizmodo a identifié certains de ces utilisateurs grâce aux métadonnées GPS jointes à leurs publications vidéo.
Aujourd’hui, Truth Social est un refuge pour les groupes politiques et les individus qui ont été évincés des plateformes traditionnelles par crainte qu’ils n’incitent à la violence. L’ancien président Trump, qui a fondé l’application, est le plus important parmi les personnalités déformées à s’y installer, mais Truth Social offre également un refuge à QAnon, une théorie du complot politique culte qui a été explicitement exclue des réseaux sociaux grand public comme Twitter, YouTube. et Facebook en raison de son association avec des actes de violence.
Au cours des dernières années seulement, cela inclut un père californien qui a déclaré avoir tiré sur ses deux enfants avec un fusil de chasse en raison de sa croyance dans les délires de QAnon, un homme de New York qui a tué un chef de la mafia et est apparu avec un «Q» écrit sur sa paume devant les tribunaux et divers incidents de terrorisme intérieur qui ont précédé l’attaque du Capitole. Fin 2020, Facebook et YouTube ont tous deux resserré les règles de leur plate-forme pour nettoyer le contenu QAnon après des années à lui permettre de prospérer. En janvier 2021, Twitter à lui seul a réprimé un réseau de plus de 70 000 comptes partageant du contenu lié à QAnon, d’autres réseaux sociaux emboîtant le pas et prenant la menace au sérieux à la lumière de l’attaque du Capitole.
Un rapport publié cette semaine par le chien de garde des médias NewsGuard détaille comment le mouvement QAnon est bien vivant sur Truth Social, où un certain nombre de comptes vérifiés continuent de promouvoir la théorie du complot. L’ancien président Trump, le PDG de Truth Social et l’ancien représentant de la Chambre Devin Nunes, et Patrick Orlando, le PDG du bailleur de fonds de Truth Social Digital World Acquisition Corporation (DWAC) ont tous promu le contenu QAnon ces derniers mois.
Plus tôt cette semaine, l’ancien président Trump a lancé une blitz de messages faisant explicitement la promotion de QAnon, citant ouvertement la théorie du complot liée à la violence et au terrorisme domestique plutôt que de s’appuyer sur un langage codé pour parler à ses partisans comme il l’a fait par le passé. Cette escalade associée à l’enquête fédérale en cours sur la prétendue mauvaise gestion par Trump d’informations classifiées à enjeux élevés – une situation qui a déjà inspiré la violence dans le monde réel – augmente les enjeux sur une application sociale où l’ancien président est capable de communiquer ouvertement avec ses partisans en vrai temps.
Que Google prenne une mesure préventive pour garder Truth Social du Play Store alors qu’Apple lui permet, jusqu’à présent, de fonctionner est un changement intéressant dans les politiques des deux géants de la technologie sur la modération et la police de l’App Store. Historiquement, Apple a pris une main plus lourde dans la modération de l’App Store – en éliminant les applications qui n’étaient pas conformes aux normes, mal conçues, trop adultes, trop spammées, ou même fonctionnant simplement dans une zone grise qu’Apple décidera plus tard qu’il faut désormais appliquer. La raison pour laquelle Apple est indifférent dans ce cas particulier n’est pas claire, mais la société a fait l’objet d’un examen fédéral intense ces derniers mois en raison de son approche interventionniste sur le marché lucratif des applications.