Wen Li, un Une spécialiste du marketing de Shanghai dans l’industrie hôtelière, a d’abord soupçonné qu’un algorithme la dérangeait lorsqu’elle et un ami ont utilisé la même application de covoiturage un soir.
L’ami de Wen, qui commandait moins fréquemment des trajets en voitures de luxe, a vu un prix inférieur pour le même trajet. Wen a blâmé les algorithmes de l’entreprise, affirmant qu’ils voulaient lui soutirer plus d’argent.
Les entreprises chinoises de covoiturage affirment que les prix varient en raison des fluctuations du trafic. Mais certaines études et reportages affirment que les applications peuvent proposer des prix différents en fonction de facteurs tels que l’historique des trajets et le téléphone qu’une personne utilise. « Je veux dire, allez, admettez simplement que vous êtes une entreprise Internet et que c’est ce que vous faites pour faire des bénéfices supplémentaires », dit Wen.
Le 1er mars, la Chine interdira ce type de discrimination algorithmique dans le cadre de ce qui pourrait être l’effort le plus ambitieux au monde pour réglementer l’intelligence artificielle. Selon les règles, il sera interdit aux entreprises d’utiliser des informations personnelles pour proposer aux utilisateurs des prix différents pour un produit ou un service.
Les règles générales couvrent les algorithmes qui fixent les prix, contrôlent les résultats de recherche, recommandent des vidéos et filtrent le contenu. Ils imposeront de nouvelles restrictions aux grandes entreprises de covoiturage, de commerce électronique, de streaming et de médias sociaux.
La réglementation étendra une répression extraordinaire contre les entreprises technologiques les plus populaires et les plus précieuses de Chine, qui a inclus de lourdes amendes et des offres d’actions détournées. « Certains signaux et tendances malsains et désordonnés se sont produits dans le développement rapide de l’économie numérique de notre pays », a déclaré le président Xi Jinping dans un discours en octobre, selon une traduction de la newsletter Pekingnology.
Les décideurs politiques ailleurs en prennent note. « J’étais justement ce matin à une réunion avec le ministère néerlandais des Affaires étrangères, et on m’a demandé si la Chine faisait des choses que nous ne faisions pas », a déclaré Rogier Creemers, expert en droit et gouvernance chinois à l’Université de Leiden aux Pays-Bas. « Ils bougent extrêmement vite. »
Les réglementations, connues sous le nom de dispositions de gestion des recommandations algorithmiques du service d’information sur Internet, ont été rédigées par l’Administration du cyberespace de Chine, un organisme puissant qui applique les règles de cybersécurité, de censure sur Internet et de commerce électronique. Entre autres choses, ils interdisent les faux comptes, la manipulation des numéros de trafic et la promotion de contenus addictifs. Ils offrent également des protections aux livreurs, aux chauffeurs de transport en commun et aux autres travailleurs de chantier.
Certaines dispositions visent à traiter les réclamations concernant les services en ligne. En vertu des règles, par exemple, il sera interdit aux entreprises d’utiliser des caractéristiques personnelles pour proposer aux utilisateurs des prix différents pour un produit ; ils seront également tenus d’informer les utilisateurs et de leur permettre de se retirer lorsque des algorithmes sont utilisés pour faire des recommandations.
Les entreprises qui enfreignent les règles pourraient être condamnées à des amendes, se voir interdire d’inscrire de nouveaux utilisateurs, voir leurs licences commerciales retirées ou voir leurs sites Web ou leurs applications fermés.
Certains éléments de la nouvelle réglementation pourraient s’avérer difficiles ou impossibles à appliquer. Il peut être techniquement difficile de contrôler le comportement d’un algorithme qui change continuellement en raison de nouvelles entrées, par exemple.
Mais le public chinois semble largement favorable aux mesures visant à freiner le pouvoir des grandes plateformes technologiques, dont il utilise les services au quotidien. Lillian Li, fondatrice de la publication technologique chinoise Chinese Features, compare le sentiment du public à l’égard des entreprises technologiques à l’ambivalence des Occidentaux envers Facebook ou Google, qui offrent une grande commodité au détriment des données personnelles d’un utilisateur.