Le Parlement européen vient de voter pour adopter une proposition de la Commission européenne visant à rendre l’application de l’intelligence artificielle plus sûre. La nouvelle proposition, amendée par les membres du Parlement européen (MPE), vise à « garantir que les systèmes d’IA sont supervisés par des personnes, sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement ».
La loi sur l’IA a beaucoup de sens compte tenu de l’état actuel du discours sur l’intelligence artificielle, bien que la première pratique interdite dans la proposition originale (s’ouvre dans un nouvel onglet) dégage de vraies vibrations I, Robot.
Parmi une longue liste de pratiques interdites, figure « la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA qui déploie des techniques subliminales au-delà de la conscience d’une personne afin de déformer matériellement le comportement d’une personne d’une manière qui cause ou est susceptible de causer à cette personne ou à une autre personne un préjudice physique ou psychologique ».
Bien sûr, il y a toujours une zone grise quant à ce qui constitue un préjudice physique et psychologique. Mais c’est un article d’opinion pour un autre jour.
Actualités du Parlement européen (s’ouvre dans un nouvel onglet) fait le point sur la loi modifiée sur l’IA « basée sur le risque », qui est passée à l’étape de la négociation de projet avec une majorité écrasante de 84 voix pour. Seuls sept députés ont voté contre et douze se sont abstenus de voter.
Par rapport au projet initial, les députés ont apporté quelques modifications dans le but d’éviter « les utilisations intrusives et discriminatoires des systèmes d’IA ». Brando Benifei, membre du parti socialiste et démocrate italien et représentant de la commission du marché intérieur, avait précédemment déclaré qu’il était « confiant que, demain, nous ajouterons l’identification biométrique en temps réel et par la poste dans les espaces accessibles au public dans cette liste de pratiques interdites ».
Cela s’est produit et la liste modifiée des pratiques d’intelligence artificielle interdites se présente désormais comme suit :
- Systèmes d’identification biométrique à distance « en temps réel » dans les espaces accessibles au public ;
- Les systèmes d’identification biométrique à distance « postaux », à la seule exception des forces de l’ordre pour la poursuite des crimes graves et uniquement après autorisation judiciaire ;
- Systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple, sexe, race, origine ethnique, statut de citoyen, religion, orientation politique) ;
- Systèmes de reconnaissance des émotions dans les forces de l’ordre, la gestion des frontières, le lieu de travail et les établissements d’enseignement ; et
- Extraction aveugle de données biométriques à partir de médias sociaux ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale (violation des droits de l’homme et du droit à la vie privée).
La loi met également l’accent sur la transparence. Les développeurs de « modèles de base génératifs, comme GPT » devront non seulement indiquer clairement que leur contenu a été généré par l’IA, mais ils devront également prendre des mesures pour empêcher leur modèle de « publier des résumés de données protégées par le droit d’auteur » et de « générer des contenus illégaux. contenu ».
Représentant la commission des libertés civiles sur le dossier, l’eurodéputé roumain Dragos Tudorache s’est adressé aux journalistes, les assurant que la loi réglera les problèmes de droit d’auteur associés au développement de l’IA. Selon son explication, les sociétés d’IA utilisant du matériel protégé par le droit d’auteur « auront l’obligation d’être transparentes à ce sujet, de le documenter et d’être transparentes, afin que cela ouvre la possibilité aux titulaires des droits d’aller ensuite demander une compensation ».
Il souligne également qu’il est important de ne pas étouffer l’innovation dans l’espace des start-up en IA. « Nous avons travaillé pour soutenir l’innovation en matière d’IA en Europe et pour donner aux start-ups, aux PME et à l’industrie un espace pour se développer et innover, tout en protégeant les droits fondamentaux, en renforçant le contrôle démocratique et en garantissant un système mature de gouvernance et d’application de l’IA. »
Si la loi sur l’IA est adoptée, ce sera la première du genre au monde à définir des pratiques sûres et transparentes pour le développement de l’intelligence artificielle. Il aura besoin du soutien de l’ensemble du Parlement lors de la session du 12 au 15 juin, la majorité acceptant les changements apportés par les députés.