Les fonctionnalités d’achat sur Twitter présentent des risques de modération de contenu et pourraient être utilisées « d’une manière qui entraîne un préjudice individuel ou sociétal », selon une note interne envoyée à une équipe d’employés de Twitter.
La note de service, dont une partie a été obtenue par Le bord, a été envoyé début juillet à un groupe d’employés de Twitter dans différentes équipes, selon une personne qui en a connaissance. Dans l’e-mail, certaines fonctionnalités existantes et non encore publiées des achats sur Twitter sont classées comme à haut risque, l’e-mail avertissant que la modération du contenu n’a pas été priorisée dans les achats.
Lancé pour la première fois l’été dernier, le shopping sur Twitter permet aux marques de répertorier les articles à vendre et d’épingler une poignée de produits en haut du profil d’un marchand. Contrairement à des fonctionnalités similaires sur Instagram, les utilisateurs ne peuvent pas acheter le produit directement sur Twitter — les articles en vente sont plutôt liés au site Web d’un marchand. Une version étendue du module de boutique a été introduite plus tôt cette année, permettant aux vendeurs de répertorier et de présenter jusqu’à 50 produits dans leur vitrine, et était disponible pour tous les marchands américains à partir de juin.
Dans une section de la note intitulée « évaluation des risques », plusieurs éléments de l’outil de commerce électronique de Twitter sont classés comme « élevés ». Une préoccupation à haut risque concerne les champs générés par les marchands, tels que les noms et les descriptions des magasins, qui, selon le mémo, pourraient être utilisés par des acteurs malveillants de manière nuisible.
La fonctionnalité de boutique de Twitter permet à toute personne disposant d’un compte professionnel vendant des articles aux États-Unis d’ajouter manuellement des produits à vendre à son profil. Lors de la sélection des articles à afficher dans la boutique Twitter étendue, les marchands peuvent ajouter un nom de boutique personnalisé et des descriptions directement sur le tableau de bord Twitter. C’est dans ces domaines que les gens qui travaillent dans le commerce disent qu’il y a des risques.
Le mémo dépeint l’image d’un processus simple pour rechercher et supprimer le contenu potentiellement abusif ou préjudiciable sur les achats sur Twitter. La plate-forme n’a pas encore de politique sur ce qui est considéré comme une violation du nom ou de la description de la boutique, selon le mémo, et manque de conseils sur la manière dont les violations doivent être traitées. Le mémo note également que Twitter ne dispose pas des outils nécessaires pour détecter les violations dans les noms et les descriptions des magasins et qu’il n’y a aucun moyen pour les utilisateurs de signaler les vitrines pour le contenu dans ces champs.
L’un des principaux arguments de vente des fonctionnalités d’achat de Twitter est la possibilité de partage, et la société a introduit d’autres mises à jour telles que des rappels qui permettent aux clients de Recevez une notification et tweetez sur les nouveautés des marques. Actuellement, les utilisateurs de Twitter ont la possibilité de cliquer sur les boutiques des marchands, de voir les produits et de cliquer sur les sites Web des marchands, mais le partage des vitrines n’est pas encore possible. La note de service interne répertorie la possibilité de partager des vitrines comme «élevée» dans son évaluation des risques, affirmant que si la fonctionnalité était publiée, elle pourrait conduire à une amplification supplémentaire du contenu préjudiciable, augmentant ainsi la visibilité du contenu qui enfreint les règles de Twitter.
Twitter dispose de mécanismes de détection automatisés pour les produits individuels mis en vente, selon le mémo. Mais les mesures proactives pour détecter les violations sont « limitées » et l’entreprise dispose d’un personnel et d’outils minimes pour un examen plus approfondi.
« Les boutiques partageables augmentent donc la probabilité que les utilisateurs voient des boutiques non conformes ou des biens non conformes contenus dans une boutique », indique le mémo. « Cela peut également inciter les mauvais acteurs à amplifier les biens nuisibles ou violants en tweetant et en partageant leur propre boutique. »
Dans une déclaration à Le bord, La porte-parole de Twitter, Lauren Alexander, a confirmé l’authenticité du mémo et a déclaré qu’il faisait partie d’une nouvelle évaluation des fonctionnalités menée par l’équipe de confiance des produits. Alexander dit que les évaluations sont conçues pour que différentes équipes puissent apporter leur contribution pour garantir la sécurité des nouvelles versions de produits.
« Nous nous efforçons toujours d’améliorer la sécurité de notre service et cela est particulièrement vrai pour l’ajout de nouveaux produits et fonctionnalités », déclare Alexander. «Nous avons pris intentionnellement le temps de tester nos nouvelles surfaces commerciales afin que, avant de nous développer ou de nous étendre à de nouveaux marchés, nous ayons la possibilité de recueillir des enseignements pour mieux éclairer notre approche de la santé et de la sécurité et développer des besoins supplémentaires en matière d’infrastructure et de politique. .”
Twitter a essayé de diversifier ses sources de revenus au-delà de la publicité ces dernières années, en expérimentant un service d’abonnement payant, des émissions en direct payantes sur Spaces et payé Super Follows. Bien que la plate-forme ait déployé et étendu ses outils de commerce, elle est à la traîne par rapport à d’autres réseaux sociaux comme Instagram et TikTok ; dans sa tentative de rachat de Twitter, Elon Musk indiqué que les paiements avaient le potentiel de représenter une part importante des activités de l’entreprise.
Plus tôt cette semaine, l’ancien responsable de la sécurité de Twitter, Peiter « Mudge » Zatko, a déclaré que l’entreprise souffrait de problèmes de sécurité et de suppression de robots négligents, entre autres problèmes, dans un rapport de dénonciation de grande envergure. Peu de temps après l’annonce de la plainte, Reuter signalé que la plate-forme combinerait une équipe « santé » travaillant sur la réduction de la désinformation et d’autres contenus toxiques avec une équipe de services qui travaille sur les comptes de spam.