Alors que les cas d’utilisation de l’IA générative voient une adaptation explosive, la Chine a joué un rôle de premier plan dans la définition de la manière dont la technologie en évolution rapide devrait être utilisée, y compris un régime de licences pour les fournisseurs de services.
Jeudi, le principal régulateur chinois du cyberespace a dévoilé un ensemble de règles provisoires pour régir les services d’IA générative, y compris les fournisseurs d’API, qui servent les utilisateurs basés en Chine.
La question est alors de savoir si la réponse rapide de la Chine pour freiner l’IA générative et ses règles strictes étoufferont l’innovation. Les décideurs politiques sont bien conscients de l’inquiétude, soulignant dans le document que les règles visent à « équilibrer développement et sécurité ».
Avant tout, les règles exigent que les fournisseurs d’IA générative adhèrent aux valeurs socialistes fondamentales, qui interdisent tout, de la pornographie et du terrorisme au racisme et au contenu qui menace la sécurité nationale de la Chine.
Selon les règles, les algorithmes susceptibles d’influencer l’opinion publique doivent être enregistrés auprès de l’autorité compétente. Les fournisseurs de services d’IA générative doivent également obtenir une licence administrative conformément à la loi, bien que le document ne précise pas qui est tenu de le faire.
En matière de protection des utilisateurs, les règles stipulent que les algorithmes ne doivent pas être discriminatoires en fonction de facteurs tels que l’origine ethnique, le sexe, l’âge, la profession ou la santé, et ne doivent pas être utilisés à des fins anticoncurrentielles. Les prestataires de services sont encouragés à créer un système anti-addiction pour les utilisateurs mineurs, similaire à ceux utilisés dans les jeux vidéo.
Les fournisseurs de services sont responsables de l’identification et de l’arrêt du processus générateur de contenu illégal, puis de la correction des algorithmes et du signalement de l’incident à l’autorité compétente. Cela signifie que les invites dans un générateur d’images ou un chatbot pourraient potentiellement entraîner des problèmes juridiques pour les particuliers.
De plus, les régulateurs ont le droit de connaître les spécificités d’un modèle d’IA générative, y compris ses données d’entraînement, sa taille, son type, ses règles de marquage et ses algorithmes.
Enfin, le développement de l’IA en Chine a été un effort descendant. Le document appelle à la création d’une plateforme publique de formation aux données et au partage de la puissance de calcul. Des règles concrètes ont déjà été proposées à Pékin pour une plate-forme centralisée soutenue par l’État qui alloue les ressources du cloud public en fonction des besoins des clients.
Comme pour d’autres industries critiques, la Chine appelle à une « innovation autonome » dans les algorithmes, les cadres, les puces, les plates-formes logicielles et autres infrastructures d’IA, tout en encourageant une coopération internationale « égale et mutuellement bénéfique ».