Disons que vous ouvrez Facebook et voyez une alerte. Vous cliquez, et à votre grande horreur vous voyez que quelqu’un a posté une photo terriblement peu flatteuse et tagué toi. Cette balise est néfaste, car cela signifie que chaque fois que quelqu’un recherche sur Internet pour vous ou quelqu’un d’autre tagué sur cette photo, ou d’ailleurs tout ce qui concerne l’événement auquel vous assistez, cette image loufoque apparaîtra. Il colle à votre identité et se traîne, comme un morceau de papier toilette sur une chaussure.
La misère que nous infligeons aux autres via des machines à honte numériques, souvent sans le savoir, ne représente que le chagrin le plus évident. Les abus les plus répandus sont conçus pour disparaître d’eux-mêmes. Et ce poison automatisé progresse à un rythme si effréné que la science-fiction d’il y a seulement quelques années se lit désormais comme l’actualité d’aujourd’hui. Le roman de Gary Shteyngart de 2010, Une véritable histoire d’amour super triste, par exemple, décrit un monde futuriste dans lequel les données radicalement ouvertes sont la norme, et la possibilité de faire honte se cache à chaque coin de rue. Les cotes de crédit apparaissent sur un écran public lorsque les personnages passent devant un «pôle de crédit» dans le quartier. Les téléphones portables avancés, ou äppäräts, peuvent scanner la valeur nette et l’historique financier de chaque passant. Si quelqu’un dans un bar raconte une blague qui tombe à plat, ses scores de « hotness » et de « personnalité » chutent en temps réel.
Des abus très semblables à ceux-ci se répandent déjà, en particulier en Chine, où la surveillance de l’État opère sans la moindre retenue. Il existe des constellations de cotes de crédit social sanctionnées par le gouvernement, dont certaines touchent une personne donnée si une caméra de surveillance la surprend en train de s’allumer dans une zone non-fumeur ou de jouer trop de jeux vidéo. D’autres utilisent des caméras équipées d’IA qui peuvent identifier les individus en fonction d’une combinaison de traits du visage, de posture et de démarche. Donc, si, par exemple, quelqu’un se rend au travail et se fait prendre en flagrant délit, la caméra intelligente peut étiqueter le nom et les informations personnelles du délinquant et les afficher sur un panneau d’affichage numérique. Ou de même, vous pourriez être puni pour avoir jeté des ordures dans le métro ou dénigré le parti au pouvoir en ligne. Vos différentes infractions pourraient également être signalées, nominativement, sur Weibo ou WeChat, géants de l’internet en Chine.
Peu importe où nous vivons, certains d’entre nous s’en sortent bien mieux que d’autres dans nos relations avec le réseau en expansion reliant les données à la honte et à la stigmatisation. Les personnes les plus faciles à exploiter ont tendance à être les plus désespérées, celles qui manquent d’argent, de connaissances ou de temps libre pour s’occuper du bagage numérique qui les suit, ou simplement celles qui ont traditionnellement été maltraitées. Ce sont des personnes disproportionnellement pauvres ou autrement marginalisées et qui ont le moins de contrôle sur leur identité. Leurs vies peuvent être définies et empoisonnées par des machines à honte : l’industrie de l’alimentation, les marchands d’opioïdes, les prisons à but lucratif, les bureaucraties de l’aide sociale, la liste est longue. Ces machines les frappent sans relâche.
Mais la honte a une seconde vie dans l’économie des données. Les expulsions, les démêlés avec les services de protection de l’enfance ou la loi, les voyages dans les casinos laissent tous de riches traces d’informations, créant une aubaine pour les nombreuses institutions qui se nourrissent de données sur la honte. Celles-ci s’étendent bien au-delà des réseaux sociaux jusqu’à l’économie formelle des sociétés de notation de crédit, des courtiers en hypothèques et des commissions de libération conditionnelle, ainsi qu’un vaste who’s who de colporteurs et d’escrocs. Les épisodes qui déclenchent le plus de honte sont numérisés, codifiés, puis traités par des centaines ou des milliers d’algorithmes différents pour jauger les personnes impliquées, en tirer de l’argent et les priver d’opportunités, souvent de façon permanente.