Après une série d’intenses négociations cette semaine, les législateurs bruxellois sont désormais parvenus à un accord « accord provisoire » sur le projet de loi sur l’intelligence artificielle (IA Act) de l’Union européenne. Le La loi européenne sur l’IA devrait être le premier ensemble complet de règles au monde régissant l’IA et pourrait servir de référence pour d’autres régions cherchant à adopter des lois similaires.
Selon le communiqué de presse, les négociateurs ont établi des obligations pour les systèmes d’IA à usage général (GPAI) « à fort impact » qui répondent à certains critères, comme les évaluations des risques, les tests contradictoires, les rapports d’incidents, etc. Il exige également la transparence des systèmes qui incluent la création de documents techniques et de « résumés détaillés sur le contenu utilisé pour la formation » – ce que des entreprises comme le fabricant de ChatGPT, OpenAI, ont refusé de faire jusqu’à présent.
Un autre élément est que les citoyens devraient avoir le droit de déposer des plaintes concernant les systèmes d’IA et de recevoir des explications sur les décisions concernant les systèmes « à haut risque » qui ont un impact sur leurs droits.
Le communiqué de presse n’explique pas en détail comment tout cela fonctionnerait ni quels sont les critères de référence, mais il mentionne un cadre pour les amendes si les entreprises enfreignent les règles. Ils varient en fonction de la violation et de la taille de l’entreprise et peuvent aller de 35 millions d’euros, soit 7 pour cent du chiffre d’affaires mondial, à 7,5 millions d’euros, soit 1,5 pour cent du chiffre d’affaires mondial.
Il existe un certain nombre d’applications où l’utilisation de l’IA est interdite, comme l’extraction d’images faciales à partir d’images de vidéosurveillance, la catégorisation basée sur des « caractéristiques sensibles » comme la race, l’orientation sexuelle, la religion ou les convictions politiques, la reconnaissance des émotions au travail ou à l’école, ou encore la création de systèmes de « notation sociale ». Les deux derniers points interdits concernent les systèmes d’IA qui « manipulent le comportement humain pour contourner leur libre arbitre » ou « exploitent les vulnérabilités des personnes ». Les règles comprennent également une liste de garanties et d’exemptions pour l’utilisation par les forces de l’ordre de systèmes biométriques, soit en temps réel, soit pour rechercher des preuves dans les enregistrements.
On s’attend à ce qu’un accord final soit conclu avant la fin de l’année. Même dans ce cas, la loi n’entrera probablement pas en vigueur jusqu’en 2025 au plus tôt.
Le premier projet de loi de l’UE sur l’IA a été dévoilé en 2021, cherchant à distinguer ce qui compte réellement comme IA et à synchroniser les règles de réglementation de la technologie de l’IA dans les États membres de l’UE. Ce projet est cependant antérieur à l’introduction d’outils d’IA générative en évolution rapide tels que ChatGPT et Stable Diffusion, ce qui a entraîné de nombreuses révisions de la législation.
D’autres négociations seront encore nécessaires pour finaliser certains détails avant l’entrée en vigueur de la loi sur l’IA.
Maintenant qu’un accord provisoire a été conclu, d’autres négociations seront encore nécessaires, notamment des votes en commissions du marché intérieur et des libertés civiles du Parlement.