PimEyes, un moteur de recherche public qui utilise la reconnaissance faciale pour comparer des photos de personnes en ligne, a interdit les recherches sur les mineurs, craignant qu’il ne mette en danger les enfants, rapports Le New York Times.
Au moins, c’est devrait. Le nouveau système de détection de PimEyes, qui utilise l’IA de détection de l’âge pour identifier si la personne est un enfant, est encore en chantier. Après l’avoir testé, Le New York Times a constaté qu’il était difficile d’identifier les enfants photographiés sous certains angles. L’IA ne détecte pas toujours avec précision les adolescents.
Le directeur général de PimEyes, Giorgi Gobronidze, a déclaré qu’il prévoyait de mettre en œuvre un tel mécanisme de protection depuis 2021. Cependant, la fonctionnalité n’a été entièrement déployée qu’après New York Times l’écrivain Kashmir Hill a publié un article sur la menace que l’IA représente pour les enfants la semaine dernière. Selon Gobronidze, les organisations de défense des droits humains œuvrant en faveur des mineurs peuvent continuer à les rechercher, tandis que toutes les autres recherches produiront des images qui masqueront le visage des enfants.
Dans l’article, Hill écrit que le service a interdit plus de 200 comptes pour recherches inappropriées d’enfants. Un parent a déclaré à Hill qu’elle avait même trouvé des photos de ses enfants qu’elle n’avait jamais vues auparavant en utilisant PimEyes. Afin de savoir d’où vient l’image, la mère devrait payer un abonnement mensuel de 29,99 $.
PimEyes n’est que l’un des moteurs de reconnaissance faciale qui ont été mis en lumière pour les violations de la vie privée. En janvier 2020, Hill’s New York Times enquête a révélé comment des centaines d’organismes chargés de l’application de la loi avaient déjà commencé à utiliser Clearview AI, un moteur de reconnaissance faciale similaire, avec peu de surveillance.
« Ceci n’est qu’un autre exemple du vaste problème global que pose la technologie, qu’elle soit basée sur la surveillance ou non », a déclaré Daly Barnett, technologue à l’Electronic Frontier Foundation. dit L’interception l’année dernière tout en critiquant le manque de protection de PimEyes pour les enfants à l’époque. « La confidentialité n’est pas garantie dès le départ, et les utilisateurs doivent refuser que leur vie privée soit compromise. »