Encore plus de problèmes pour les législateurs de l’Union européenne dans un domaine controversé de l’élaboration des politiques technologiques, à savoir la législation proposée par le bloc pour appliquer les technologies de surveillance, telles que l’analyse côté client, à la messagerie numérique pour tenter de détecter les matériels pédopornographiques (CSAM).
Cette semaine, le médiateur de la Commission a publié les détails d’un constat de mauvaise administration qu’il a fait en décembre suite à une décision de l’exécutif européen de ne pas divulguer d’informations plus complètes concernant ses communications avec un fabricant de technologies de sécurité pour enfants. L’année dernière, la Commission a publié certains documents relatifs à ses échanges avec l’entreprise en question mais a refusé l’accès aux autres.
Cette recommandation fait suite à une plainte déposée en juin 2022 auprès du médiateur par un journaliste, qui avait demandé l’accès du public aux documents envoyés à la Commission par Thorn, une entité américaine qui vend des technologies d’IA qui, selon elle, peuvent détecter et supprimer le CSAM.
Dans sa recommandation, la médiatrice de l’UE, Emily O’Reilly, exhorte la Commission à « reconsidérer sa décision en vue de donner au public un accès considérablement accru, voire complet, aux documents en question ».
« À la lumière de la procédure législative en cours et des délais qui en résultent pour cette affaire, le Médiateur a exhorté la Commission à mettre rapidement en œuvre sa recommandation », ajoute-t-elle.
La Commission a présenté sa proposition initiale de cadre juridique qui pourrait obliger les services numériques à utiliser des technologies automatisées pour détecter et signaler des CSAM existants ou nouveaux, ainsi qu’identifier et signaler les activités de toilettage ciblant les enfants sur leurs plateformes, en mai 2022. Mais le dossier reste en suspens. fait l’objet de négociations actives entre ses co-législateurs de l’UE, le Parlement européen et le Conseil – un facteur que le médiateur signale comme étant un facteur important pour l’application de la transparence afin de favoriser la responsabilité dans le cadre de la législation européenne.
La divulgation des documents en cause « permettra au public de participer plus efficacement à un processus décisionnel qui affectera très probablement directement la vie quotidienne des citoyens en limitant leur droit à la vie privée », suggère-t-elle. « Deuxièmement, la transparence permettra au public de vérifier qui et quoi a inspiré la proposition législative en question. Les parties prenantes qui apportent activement leur contribution ne devraient pas être autorisées à le faire à huis clos.
Les critiques ont suggéré que la proposition controversée d’analyse des messages de la Commission a été indûment influencée par des lobbyistes promouvant une technologie exclusive de sécurité des enfants qui pourraient bénéficier commercialement des lois rendant obligatoires les contrôles CSAM automatisés.
L’automne dernier, un séminaire organisé par le Contrôleur européen de la protection des données a également recueilli de nombreuses inquiétudes selon lesquelles la proposition de la Commission serait à la fois inefficace en tant qu’outil de lutte contre les abus sexuels sur enfants et constituerait un risque majeur pour les libertés fondamentales dans une société démocratique.
Depuis lors, les parlementaires ont soutenu une approche révisée pour lutter contre le CSAM qui supprimerait, entre autres limites, l’obligation pour les plateformes de messagerie d’analyser les messages cryptés de bout en bout. Mais la législation européenne est une affaire à trois volets : elle nécessite également l’adhésion de la Commission et du Conseil. Reste donc à savoir où atterrira le fichier CSAM.
Interrogé lundi sur la recommandation du médiateur selon laquelle la Commission divulguerait davantage ses échanges avec Thorn, l’exécutif européen a mis jusqu’à aujourd’hui (mercredi) pour nous envoyer une brève réponse (voir ci-dessous). Sa réponse suggère qu’elle envisage de prendre son temps pour réfléchir aux conclusions de mauvaise administration du médiateur, étant donné qu’elle met un point d’honneur à lui donner un délai généreux pour répondre à ses recommandations, dans plus de deux mois. Ce qui ne suggère pas une résolution rapide. En plus, ça sent la canette qu’on jette sur la route.
Voici la déclaration, attribuée à la porte-parole de la Commission européenne pour les affaires intérieures, Anitta Hipper :
La Commission donnera accès aux documents le cas échéant et dans le cadre de notre cadre juridique. Plus précisément, en ce qui concerne la recommandation du Médiateur, la Commission examinera attentivement la recommandation du Médiateur. Une réponse est attendue d’ici le 19 mars.
La proposition législative a déjà provoqué une autre controverse interne à la Commission. L’année dernière, l’entreprise s’est heurtée à des publicités micro-ciblées que sa division des affaires intérieures a été aperçue en train de diffuser sur le réseau social X pour promouvoir la législation – ce qui a conduit à un certain nombre de plaintes en matière de protection des données, car les données utilisées à des fins de ciblage semblaient inclure des informations personnelles sensibles.
En novembre, le groupe de protection de la vie privée noyb a déposé une plainte contre la Commission à ce sujet auprès de son organisme de surveillance de la vie privée, le Contrôleur européen de la protection des données.
Entre-temps, une enquête interne ouverte par la Commission à la suite du reportage de l’épisode n’a pas encore produit de résultats publics. Chaque fois que nous avons interrogé la Commission sur cette enquête, elle a répondu qu’elle ne disposait pas de nouvelles.
Cependant, l’existence de l’enquête interne a eu un résultat tangible : le médiateur européen a refusé d’ouvrir une enquête sur le microciblage à la suite d’une plainte déposée par l’eurodéputé Patrick Breyer en octobre dernier — dans sa réponse à l’eurodéputé, O’Reilly a souligné l’enquête en cours de la Commission comme étant « des raisons suffisantes » pour qu’elle ne mène pas d’enquête à ce stade, écrivant : « Je note que la Commission a expliqué dans les médias que des enquêtes internes sont en cours. Par conséquent, pour le moment, je ne trouve pas de motifs suffisants pour ouvrir une enquête.
Dans le même temps, elle a accepté d’ouvrir une enquête sur le transfert de deux membres du personnel d’Europol, une agence paneuropéenne de coordination des forces de l’ordre, vers Thorn – à la suite d’une autre plainte déposée par Breyer pour un potentiel conflit d’intérêts.
« J’ai décidé d’ouvrir une enquête pour déterminer comment Europol a géré la mutation de deux anciens membres du personnel vers des postes liés à la lutte contre les abus sexuels sur enfants en ligne », a-t-elle écrit. « Dans un premier temps, j’ai décidé qu’il était nécessaire d’inspecter certains documents détenus par Europol liés à ces activités d’après-mandat. Je m’attends à recevoir ces documents d’ici le 15 janvier 2024. »
Il reste à voir ce que conclura l’enquête du médiateur sur les communications d’Europol avec Thorn. (Mais il n’est peut-être pas ironique que la controverse supplémentaire autour de la proposition de numérisation des messages de la Commission soit alimentée par l’accès (et/ou, bien, l’absence de communication) aux communications « privées » échangées entre les institutions européennes et les lobbyistes de l’industrie. Peut-être il y a un message là-dedans pour les décideurs politiques s’ils pouvaient le lire.)
Nous avons contacté Thorn, mais celui-ci n’a pas répondu à une demande de commentaires sur l’enquête du médiateur.
Un article de journalisme d’investigation publié par BalkanInsight l’automne dernier, examinant le lobbying de Thorn et rendant compte des communications entre la Commission et Thorn que ses journalistes ont pu obtenir, a remis en question le niveau d’influence des fabricants commerciaux de technologies de sécurité des enfants qui pourraient tirer profit des lois obligeant L’analyse des messages a pris de l’ampleur au fil de l’élaboration des politiques européennes.
« Après sept mois de communication concernant l’accès aux documents et l’intervention du médiateur européen, la Commission a finalement publié début septembre une série d’échanges de courriers électroniques entre la direction générale des migrations et des affaires intérieures de Johansson et Thorn », ont rapporté ses journalistes. « Les courriels révèlent une relation de travail continue et étroite entre les deux parties dans les mois qui ont suivi le déploiement de la proposition CSAM, la Commission facilitant à plusieurs reprises l’accès de Thorn à des lieux de prise de décision cruciaux auxquels participent les ministres et les représentants des États membres de l’UE.
La commissaire européenne à l’origine de la proposition d’analyse CSAM, la commissaire aux affaires intérieures, Ylva Johansson, a rejeté à plusieurs reprises les allégations selon lesquelles elle aurait permis aux lobbyistes de l’industrie d’influencer sa proposition.
Un rapport de suivi de BalkanInsight l’année dernière, citant des procès-verbaux publiés dans le cadre de la liberté d’information, a révélé que les responsables d’Europol avaient poussé à une réunion avec le personnel de la Commission pour un accès non filtré aux données qui seraient obtenues dans le cadre de la proposition d’analyse CSAM ; et que les systèmes d’analyse soient utilisés pour détecter d’autres types de crimes, pas seulement les abus sexuels sur enfants.
Les critiques de la proposition controversée d’analyse CSAM de l’UE préviennent depuis longtemps qu’une fois que la technologie de surveillance sera intégrée à l’infrastructure de messagerie privée, les forces de l’ordre feront pression pour élargir la portée de ce qui est analysé.