Un régulateur britannique estime que le chatbot IA pourrait mettre en danger la vie privée des enfants. Le Bureau du commissaire à l’information (ICO), l’organisme de surveillance de la vie privée du pays, a émis un avis d’exécution préliminaire contre l’entreprise pour « un manquement potentiel à évaluer correctement les risques pour la vie privée posés par
Le commissaire à l’information, John Edwards, a déclaré que les conclusions provisoires de l’enquête de l’ICO indiquaient un « échec inquiétant de Snap à identifier et évaluer correctement les risques pour la vie privée des enfants et des autres utilisateurs » avant de déployer My AI. L’ICO a noté que si Snap ne répondait pas suffisamment à ses préoccupations, il pourrait bloquer le chatbot au Royaume-Uni.
Cependant, l’avis préliminaire ne signifie pas nécessairement que l’ICO prendra des mesures contre Snap ou que l’entreprise a violé les lois sur la protection des données. Il examinera les soumissions de Snap avant de prendre une décision finale.
« Mon IA a fait l’objet d’un solide processus d’examen juridique et de confidentialité avant d’être rendue publique », a déclaré un porte-parole de Snap. Reuters. « Nous continuerons à travailler de manière constructive avec l’ICO pour nous assurer qu’ils sont à l’aise avec nos procédures d’évaluation des risques. »
L’ICO indique qu’en mai, Snapchat comptait 21 millions d’utilisateurs actifs mensuels au Royaume-Uni, dont beaucoup étaient âgés de 13 à 17 ans. Le régulateur a souligné que My AI marquait le premier exemple d’ajout d’un système d’IA générative à un réseau. principale plateforme de messagerie du pays. La fonctionnalité, puis Snap l’ont activée pour tous les utilisateurs britanniques en avril.
Peu de temps après que Snap ait déployé le chatbot, les parents ont fait part de leurs inquiétudes concernant My AI, et pas seulement sur des considérations de confidentialité. « Je ne pense pas être prête à savoir comment apprendre à mon enfant à séparer émotionnellement les humains et les machines alors qu’ils se ressemblent essentiellement de son point de vue », a déclaré une mère d’un enfant de 13 ans. en avril. « Je pense simplement qu’il y a une ligne très claire [Snapchat] traverse.
L’ICO a déjà infligé de lourdes amendes à des plateformes de médias sociaux pour mauvaise gestion des données d’enfants. Plus tôt cette année, après avoir déterminé que la plateforme avait enfreint les lois sur la protection des données, notamment en ce qui concerne le traitement des informations personnelles des enfants.