Les gouvernements du Royaume-Uni et de l’UE se jettent sur la piste de tramway proverbiale que sont les normes éthiques de l’IA. La Commission européenne (CE) a déjà rédigé des lois pour réglementer l’utilisation de l’IA, mais les rapports suggèrent qu’il faudra jusqu’à un an pour les mettre en place.
En ce moment, nous sommes au milieu des feux croisés dans les badlands de l’IA. La loi semble être mise de côté alors que de nouvelles applications d’IA sont établies partout, totalement non réglementées.
Selon Reuters (via AI News), deux législateurs impliqués dans les procédures de l’UE ont déclaré que le débat était lié à la question de savoir si la reconnaissance faciale devait être interdite et à qui avait le droit de présider les règles et de contrôler l’IA.
C’est une situation similaire aux États-Unis où il n’y a toujours pas de réglementation fédérale sur l’intelligence artificielle, mais il y aurait une réglementation américaine sur l’IA « à l’horizon ». Elle prendra apparemment une forme différente, cependant, lorsque le cadre détaillé proposé par la CE est remplacé par une approche agence par agence.
Le projet précédent de la Commission européenne a établi certaines classifications pour l’IA, en fonction du niveau de risque que chaque système pourrait représenter pour nous en tant qu’espèce. Ceux-ci vont des « systèmes à risque limité » tels que les chatbots et les filtres anti-spam, jusqu’à ceux à « risque inacceptable », c’est-à-dire tout ce qui exploite, manipule ou pourrait « effectuer une authentification biométrique en temps réel dans les espaces publics pour l’application de la loi ».
Tout cela semble très orwellien, mais lorsque nous avons des IA d’entraînement DeepMind pour contrôler la fusion nucléaire, on pourrait penser que la reconnaissance faciale serait le cadet de nos soucis.
Les systèmes d’IA « à haut risque » devront faire l’objet d’un examen minutieux et être soumis à des règles strictes afin de fonctionner dans le respect de la loi. Les réglementations peuvent inclure n’importe quoi, de la surveillance humaine aux systèmes obligatoires de gestion des risques ou à l’enregistrement gouvernemental. Tout système jugé à haut risque nécessitera probablement une tenue de registres et une journalisation intenses, au cas où quelque chose tournerait mal, et potentiellement pour une divulgation complète de la transparence de ces enregistrements aux utilisateurs.
Il semble au moins que l’IA du jeu vidéo soit sur le point d’être incluse dans la catégorie à risque limité, mais qui sait si cela montera d’un cran une fois que tout le monde se rendra compte de la réalité et fera l’exode vers le métaverse.
Une décision a déjà été prise selon laquelle toute IA s’intégrant dans le haut du spectre des risques sera soumise à une interdiction générale de déploiement. La difficulté réside cependant dans la classification de l’IA, et les querelles semblent devoir se poursuivre pendant un certain temps.
« La reconnaissance faciale va être la plus grande discussion idéologique entre la droite et la gauche », a déclaré Dragos Tudorache du Parlement européen dans une interview à Reuters. « Je ne crois pas à une interdiction pure et simple. Pour moi, la solution est de mettre en place les bonnes règles.
La décision peut prendre un certain temps, mais le ministre britannique Chris Philp, du Département du numérique, de la culture, des médias et des sports (DCMS), est catégorique : « Nous jetons les bases de la croissance des dix prochaines années avec une stratégie visant à aidez-nous à saisir le potentiel de l’intelligence artificielle et à jouer un rôle de premier plan dans la façon dont le monde le gouverne.
Le gouvernement britannique est également en train de créer un AI Standards Hub, en collaboration avec l’Institut Alan Turing, qui supervisera son engagement dans le monde de l’éthique de l’IA et des conseils de sécurité.
Ce sont des décisions qui ne doivent pas être prises à la légère, bien sûr, mais une année entière pour établir quelques règles concernant l’IA ? C’est peut-être un peu inquiétant que ce soit encore un peu libre pour tous. Je veux dire, les grands esprits de la science-fiction sont là-dessus depuis des années déjà, les gars, rattrapez-vous. Je suis sûr qu’Orwell, Philip K. Dick et d’autres futurs spéculateurs se roulent tous dans leurs tombes en ce moment.
Pourtant, je suis au moins heureux que les gros bonnets recherchent l’avis des meilleurs scientifiques, plutôt que de se réconcilier sur place pour une décision plus rapide. Je préférerais que la réglementation soit bien faite plutôt que réactionnaire, mais le manque de réglementation à court terme repose sur des systèmes d’IA fiables qui restent ainsi.