Un moteur de recherche qui utilise la reconnaissance faciale pour aider les gens à scanner des milliards d’images et à retrouver leurs photos éparpillées sur Internet a officiellement interdit les recherches sur les mineurs, a rapporté le New York Times. Cette décision fait suite à des années de critiques de la part d’experts en matière de protection de la vie privée, de médias et de régulateurs, avertissant que des technologies telles que PimEyes pourraient être utilisées à mauvais escient pour traquer les enfants en ligne.
Le PDG de PimEyes, Giorgi Gobronidze, a déclaré au Times qu’en plus d’établir une « politique de non-préjudice », la société a également mis en œuvre une nouvelle technologie de détection de l’âge par l’IA pour détecter et bloquer les recherches de mineurs. Cette mise à jour est due à des problèmes de confidentialité selon lesquels « les images d’enfants pourraient être utilisées par [some] des individus avec une boussole morale et des valeurs tordues, comme des pédophiles, des prédateurs d’enfants », a déclaré Gobronidze. Les critiques avaient longtemps averti que la technologie de PimEyes permettait de télécharger facilement une photo de n’importe quel enfant et de trouver rapidement d’autres photos ou de découvrir son nom et son adresse.
De par sa conception, PimEyes est censé permettre aux gens de savoir facilement où leurs propres photos ont été publiées en ligne, mais PimEyes n’a aucun moyen d’empêcher les gens de rechercher des photos d’autres personnes, a rapporté le Times. L’« unité de sécurité des données » de la plateforme a surveillé les activités suspectes dans le passé en signalant tout téléchargement de photo d’enfant ou en détectant les utilisateurs masculins recherchant à plusieurs reprises des photos de femmes, a rapporté la BBC. Gobronidze a confirmé au Times que sur 118 000 recherches quotidiennes dans la base de données de 3 milliards d’images de PimEyes, la société a détecté et interdit plus de 200 comptes effectuant des « recherches inappropriées sur les visages d’enfants ».
La détection de l’âge peut aider PimEyes à étendre ses efforts pour interdire les mauvais acteurs. Gobronidze a déclaré au Times que PimEyes « perfectionne encore son système de détection », qui est actuellement plus efficace pour bloquer les recherches de mineurs de moins de 14 ans que pour détecter les adolescents.
Le Times a utilisé une photo de Mary-Kate et Ashley Olsen lorsqu’elles étaient enfants – avec un jumeau face à la caméra et le visage de l’autre photographié de profil – pour tester l’efficacité de PimEyes pour bloquer les recherches et a découvert une autre faille. Si PimEyes a bloqué les recherches du jumeau face à la caméra, il n’a pas bloqué les recherches du jumeau photographié de profil. Le test montre que PimEyes peut encore se laisser tromper, générant des dizaines de photos du jumeau dont l’âge n’a pas été détecté.
La mise à jour vise à répondre aux problèmes de confidentialité et à améliorer la sécurité de la plateforme, mais empêche également les parents d’utiliser la technologie pour trouver des photos de leurs enfants en ligne. Des parents avaient déjà déclaré au Times qu’ils utilisaient PimEyes et avaient trouvé des photos de leurs enfants utilisées sur des sites d’information et dans des publicités. Gobronidze a déclaré au Times que les organisations de défense des droits de l’homme en ligne seront désormais autorisées à rechercher des photos de mineurs, mais que dans le cas contraire, PimEyes a l’intention de bloquer toutes les recherches de mineurs.
PimEyes n’a pas immédiatement répondu à la demande de commentaire d’Ars.