La plateforme de médias sociaux Snapchat a reçu un avertissement de la part de l’organisme de surveillance des données du Royaume-Uni concernant son nouveau chatbot d’intelligence artificielle (IA) connu sous le nom de « My AI ». selon à une mise à jour publiée par le régulateur.
Le 6 octobre, le Bureau du commissaire à l’information du Royaume-Uni (ICO) a émis un avis préliminaire à Snap Inc. et Snap Group, les sociétés mères de Snapchat, pour l’incapacité potentielle à « évaluer correctement les risques pour la vie privée » posés par le chatbot.
Nous avons émis à Snap, Inc et Snap Group Limited un avis d’exécution préliminaire concernant un échec potentiel dans l’évaluation correcte des risques pour la vie privée posés par son chatbot génératif d’IA « My AI ».
En savoir plus sur l’affaire : https://t.co/MAuHAH0h8B pic.twitter.com/BawISttPJN
– ICO – Bureau du commissaire à l’information (@ICOnews) 6 octobre 2023
L’avis est basé sur une enquête provisoire de l’entreprise menée par l’organisme de surveillance, qui a déclaré que les risques pour plusieurs millions d’utilisateurs de My AI, y compris les enfants âgés de 13 à 17 ans, n’avaient pas été correctement identifiés avant son lancement.
John Edwards, le commissaire à l’information du Royaume-Uni, a commenté l’avis en ces termes :
« Nous avons clairement indiqué que les organisations doivent prendre en compte les risques associés à l’IA, ainsi que ses avantages. L’avis d’application préliminaire d’aujourd’hui montre que nous prendrons des mesures afin de protéger les droits à la vie privée des consommateurs britanniques.
Selon l’avis, si un avis d’exécution final est émis, Snap pourrait être contraint d’arrêter le traitement des données relatives à My AI, ce qui l’empêcherait d’offrir le service aux utilisateurs basés au Royaume-Uni sans une évaluation des risques « adéquate ».
Actuellement, l’ICO a déclaré qu’aucune conclusion ne devrait être tirée du stade actuel des enquêtes.
En rapport: Friend.tech propose des solutions de suppression de connexion après les rapports d’échange de carte SIM
Le chatbot IA de Snapchat a été déployé auprès des utilisateurs de Snapchat+ au Royaume-Uni en février 2023, avec une disponibilité plus large à partir d’avril 2023.
Mon IA est alimentée par la technologie GPT-4 d’OpenAI et, selon l’organisme de surveillance des données, était le « premier exemple d’IA générative intégrée dans une plate-forme de messagerie majeure au Royaume-Uni ».
Un porte-parole de Snap a contacté Cointelegraph et a déclaré que la société « examinait de près » l’avis provisoire de l’ICO et a déclaré que la société « s’engageait à protéger la vie privée des utilisateurs ».
« Mon IA a fait l’objet d’un solide processus d’examen juridique et de confidentialité avant d’être rendue publique », a déclaré le porte-parole.
« Nous continuerons à travailler de manière constructive avec l’ICO pour nous assurer qu’ils sont à l’aise avec nos procédures d’évaluation des risques. »
Tout au long de l’année, les principales plateformes de médias sociaux ont intégré des fonctionnalités d’IA dans leurs opérations. Le 4 octobre, la plateforme de médias sociaux LinkedIn, propriété de Microsoft et axée sur les entreprises, a annoncé des outils d’IA supplémentaires disponibles pour les recruteurs, ainsi qu’un assistant d’IA dans son centre d’apprentissage.
Les géants de la grande technologie Meta – la société mère de Facebook et Instagram – et Google ont également révélé l’intégration de chatbots IA dans leurs offres de services.
Revue: « L’IA a tué l’industrie » : le patron d’EasyTranslate parle de son adaptation au changement