Common Sense, une organisation à but non lucratif bien connue consacrée à la vie privée des consommateurs, à la citoyenneté numérique et à l’évaluation des médias pour les parents qui souhaitent évaluer les applications, les jeux, les podcasts, les émissions de télévision, les films et les livres que leurs enfants consomment, a annoncé ce matin qu’elle introduire un autre type de produit dans son système de notation et d’avis : les produits de technologie IA. L’organisation dit qu’elle va construire un nouveau système de notation qui évaluera les produits d’IA à travers un certain nombre de dimensions, y compris si la technologie tire parti des «pratiques d’IA responsables» ainsi que son adéquation aux enfants.
Les nouvelles revues de produits d’IA se concentreront particulièrement sur ceux qui sont utilisés par les enfants et les éducateurs, note Common Sense.
La décision d’inclure des produits d’IA dans sa gamme a été prise à la suite d’une enquête réalisée en collaboration avec Impact Research qui a révélé que 82 % des parents recherchaient un système de notation qui les aiderait à évaluer si oui ou non de nouveaux produits d’IA, comme ChatGPT, étaient adaptés aux enfants. Plus des trois quarts des répondants (77 %) ont également déclaré qu’ils étaient intéressés par les produits alimentés par l’IA qui pourraient aider les enfants à apprendre, mais seulement 40 % ont déclaré qu’ils connaissaient une ressource fiable qu’ils pourraient utiliser pour en savoir plus sur la pertinence des produits d’IA pour leur enfants.
Le nouveau système sera conçu avec l’aide d’experts dans le domaine de l’intelligence artificielle et visera également à éclairer les efforts législatifs et réglementaires à venir concernant la sécurité en ligne des mineurs, a indiqué l’organisation.
En règle générale, le système indépendant d’évaluation et de révision des médias de Common Sense, disponible sur commonsensemedia.org, fournira une évaluation de l’adéquation à l’âge ainsi que des mesures de la quantité de contenu positif ou négatif que les médias peuvent contenir, dans des domaines tels que des modèles et des messages positifs et une représentation diversifiée, ou, du côté le plus négatif, des choses comme la violence, la vulgarité, la peur, la consommation de drogue et plus encore. On ne sait pas comment Common Sense prévoit d’évaluer les produits d’IA dans le cadre du nouveau système.
Cependant, dans un document de position publié en avril 2023, Common Sense a mis en garde contre plusieurs problèmes actuels avec l’IA moderne, y compris, souvent, leur manque de «garde-fous significatifs» qui peuvent les rendre dangereuses pour les enfants. En outre, il a averti que les technologies d’IA génératives, telles que ChatGPT d’OpenAI, pourraient être susceptibles d’être biaisées dans leurs données de formation, qui comprennent de grands ensembles de données comme des sites Web, des livres et des articles, comme du contenu extrait d’Internet.
« Au-delà des préoccupations concernant le droit d’auteur… la quantité de données nécessaires pour former des modèles génératifs garantit presque que tout modèle génératif a été formé dans une certaine mesure sur des informations biaisées, des stéréotypes et de la désinformation, qui peuvent tous être propagés ou reproduits lors de la production de sortie », papier avait noté.
Common Sense n’a pas partagé de calendrier quant au moment où il s’attendait à ce que son nouveau système de notation et d’examen de l’IA soit lancé, mais a souligné l’urgence de créer une telle ressource.
« Nous devons agir maintenant pour nous assurer que les parents, les éducateurs et les jeunes sont informés des dangers et des possibilités de l’IA et de produits comme ChatGPT », a déclaré James P. Steyer, fondateur et PDG de Common Sense Media, dans un communiqué. « Il est essentiel qu’il existe un système de notation tiers indépendant et fiable pour informer le public et les décideurs de l’impact incroyable de l’IA. Ces dernières années, un certain nombre d’entreprises technologiques ont fait passer les profits avant le bien-être des enfants et des familles. Nous avons déjà vu ce film, avec l’émergence des médias sociaux et l’échec subséquent de la réglementation de ces plateformes, et, malheureusement, nous savons comment cette version se termine. Tout simplement, nous ne devons pas commettre les mêmes erreurs avec l’IA, ce qui aura des conséquences encore plus importantes pour les enfants et la société », a-t-il ajouté.
En plus de ses évaluations médiatiques, la filiale à but lucratif de l’organisation, Common Sense Networks, s’est inspirée de ses recommandations adaptées aux enfants avec le lancement d’un service de streaming appelé Sensical en 2921. Le service propose des vidéos adaptées à l’âge des enfants de 2 ans. jusqu’à 10.