Les législateurs de l’Union européenne sont sur la bonne voie pour interdire l’utilisation de la surveillance biométrique à distance à des fins générales d’application de la loi. Cependant, cela n’a pas empêché les parlementaires français de voter en faveur du déploiement de l’IA pour surveiller les espaces publics à la recherche de comportements suspects lors des Jeux olympiques de Paris en 2024.
Jeudi, le parlement a approuvé un plan visant à utiliser la surveillance comportementale automatisée des espaces publics pendant les jeux, ignorant les objections d’environ 40 députés qui avaient rédigé une lettre ouverte dénonçant la proposition. Le vote a suivi une approbation antérieure par le Sénat français. (Via Politique.)
Les Jeux olympiques de 2024 doivent avoir lieu à Paris du 26 juillet au 11 août.
La loi sur l’IA de l’UE, un nouveau cadre basé sur les risques pour réglementer les applications de l’IA, comprend une interdiction de l’utilisation de systèmes d’identification biométrique à distance «en temps réel» dans des espaces accessibles au public à des fins d’application de la loi — avec, dans le projet de proposition initial, des exceptions autorisées pour les recherches de certaines victimes potentielles d’actes criminels (telles que des enfants disparus); pour la prévention de «une menace spécifique, substantielle et imminente » pour la vie ou la sécurité physique ou une attaque terroriste ; ou pour identifier un l’auteur ou le suspect d’une infraction pénale déféré. Bien que les députés aient fait pression pour une interdiction plus complète.
Les critiques du plan français suggèrent qu’il va bien plus loin que les exceptions limitées d’application de la loi autorisées dans le projet de proposition – s’appuyant sur une IA non éprouvée pour identifier quelque chose d’aussi vague qu’un comportement suspect.
Commentant dans un communiqué, Patrick Breyer, député européen au Parlement européen avec le Parti pirate, a dénoncé l’utilisation de ce qu’il a qualifié de technologie « sujette aux erreurs » et intrusive, déclarant : « La décision du Parlement français d’autoriser la surveillance comportementale automatisée dans des espaces publics pour rechercher des « comportements anormaux » crée une nouvelle réalité de surveillance de masse sans précédent en Europe. Je m’attends à ce que le tribunal annule cette législation de surveillance aveugle pour violation de nos droits fondamentaux.
« De telles machines suspectes signaleront à tort d’innombrables citoyens, sont discriminatoires, éduquent à un comportement conformiste et sont absolument inutiles pour attraper les criminels, comme l’ont prouvé des études et des expériences. Petit à petit, comme en Chine, la diversité sociale est menacée et notre société ouverte remplacée par une société de consommation conformiste.
La loi sur l’IA a été proposée par la Commission européenne il y a presque deux ans, mais reste en cours de négociation par les institutions du bloc – avec des discussions sur le dossier compliquées par les divisions et les développements technologiques en cours, tels que la montée des IA à usage général comme le GPT-4 d’OpenAI (avec des IA à usage général non explicitement incluses dans la proposition originale, soulignant à la fois comment le domaine de l’IA évolue rapidement et, par conséquent, le défi pour les régulateurs de créer des cadres efficaces et évolutifs pour réglementer les applications de la technologie).
Cela signifie que l’ensemble et les détails de la future loi paneuropéenne ne sont pas encore réglés. Et même dans le meilleur des cas – c’est-à-dire si les législateurs du bloc parviennent à un compromis rapide – il se peut qu’il ne soit toujours pas appliqué à temps pour les Jeux olympiques de Paris. Néanmoins, la décision française semble pour le moins gênante – suggérant que le bloc est sur la bonne voie pour une nouvelle ère de friction juridique entre les priorités de sécurité nationale et la protection des droits fondamentaux de l’UE.
La France est l’un des nombreux États membres de l’UE qui a refusé à plusieurs reprises de se plier aux règles de l’UE sur la conservation générale et aveugle des données – contredisant que l’activité est essentielle pour la sécurité nationale – malgré le fait que le plus haut tribunal du bloc ait rendu un certain nombre de décisions qui ont critiqué de telles régimes de collecte de données en masse. Et les futures vagues de contestations judiciaires concernant l’utilisation abusive par l’État de puissants outils d’IA, pour une surveillance générale et aveugle, pourraient bien s’accélérer.
Dans l’intervalle, le projet du gouvernement français de couvrir les Jeux olympiques de Paris d’une surveillance alimentée par l’IA pourrait encore être contesté par la Cour constitutionnelle du pays. Il reste donc à voir si les participants aux Jeux olympiques d’été de 2024 seront confrontés à une évaluation comportementale par des algorithmes.
La CNIL, l’organisme français de surveillance de la protection des données, a intensifié son attention sur l’intelligence artificielle ces derniers mois – en créant un département dédié pour travailler sur la technologie en janvier, en préparation de la prochaine loi européenne sur l’IA. Elle pourrait donc s’intéresser de près au plan du gouvernement. (Nous avons contacté la CNIL pour lui poser des questions sur son point de vue sur le plan et mettrons à jour ce rapport s’il répond.)