Lundi, OpenAI a annoncé un partenariat avec l’organisation à but non lucratif Common Sense Media pour créer des lignes directrices sur l’IA et du matériel pédagogique destinés aux parents, aux éducateurs et aux adolescents. Il comprend la conservation de GPT adaptés aux familles dans la boutique GPT d’OpenAI. La collaboration vise à répondre aux préoccupations concernant les impacts de l’IA sur les enfants et les adolescents.
Connu pour ses critiques de films et d’émissions de télévision destinées aux parents à la recherche de médias appropriés à regarder pour leurs enfants, Common Sense Media s’est récemment lancé dans l’IA et a passé en revue les assistants IA sur son site.
« L’IA ne mène nulle part, il est donc important que nous aidions les enfants à comprendre comment l’utiliser de manière responsable », Common Sense Media a écrit sur X. « C’est pourquoi nous nous sommes associés à @OpenAI pour aider les adolescents et les familles à exploiter en toute sécurité le potentiel de l’IA. »
Sam Altman, PDG d’OpenAI, et James Steyer, PDG de Common Sense Media, ont annoncé le partenariat sur scène à San Francisco lors du Common Sense Summit for America’s Kids and Families, un événement qui a été bien couvert par les membres des médias sur le site de médias sociaux X.
Pour sa part, Altman a fait une déclaration dans le communiqué de presse, déclarant : « L’IA offre des avantages incroyables aux familles et aux adolescents, et notre partenariat avec Common Sense renforcera encore notre travail en matière de sécurité, garantissant que les familles et les adolescents peuvent utiliser nos outils en toute confiance. « .
L’annonce semble légèrement non spécifique dans le communiqué de presse officiel, Steyer offrant : « Nos guides et notre curation seront conçus pour éduquer les familles et les éducateurs sur l’utilisation sûre et responsable de ChatGPT, afin que nous puissions collectivement éviter toute conséquence involontaire de cette émergence. technologie. »
Le partenariat semble principalement destiné à apporter une touche familiale au magasin GPT d’OpenAI, la révélation la plus solide étant le fait susmentionné que les médias Common Sense aideront à « la conservation des GPT familiaux dans le magasin GPT basés sur Common Sense. évaluations et normes.
Avis sur l’IA de bon sens
Comme mentionné ci-dessus, Common Sense Media a commencé à examiner les assistants IA sur son site à la fin de l’année dernière. Cela place Common Sense Media dans une position intéressante avec des conflits d’intérêts potentiels concernant le nouveau partenariat avec OpenAI. Cependant, il ne semble pas jusqu’à présent offrir de favoritisme à OpenAI.
Par exemple, l’examen de ChatGPT par Common Sense Media qualifie l’assistant IA de « chatbot puissant, parfois risqué, pour les personnes de 13 ans et plus, qui est mieux utilisé pour la créativité, pas pour les faits ». Il indique que ChatGPT convient aux personnes de 13 ans et plus (ce qui figure dans les conditions d’utilisation d’OpenAI) et attribue à l’assistant OpenAI trois étoiles sur cinq. ChatGPT obtient également un taux de confidentialité de 48 % (ce qui est étrangement affiché à 55 % sur une autre page qui traite des détails de confidentialité). L’examen que nous avons cité a été mis à jour pour la dernière fois le 13 octobre 2023, au moment d’écrire ces lignes.
Pour référence, Google Bard obtient une note globale de trois étoiles et une note de confidentialité de 75 % dans sa revue Common Sense Media. Stable Diffusion, le modèle de synthèse d’images, obtient une note d’une étoile avec la description : « Un puissant générateur d’images peut libérer la créativité, mais il est extrêmement dangereux et perpétue les dommages. » Le DALL-E d’OpenAI obtient deux étoiles et une note de confidentialité de 48 %.
Les informations incluses par Common Sense Media sur chaque modèle d’IA semblent relativement précises et détaillées (et l’organisation a cité un article d’Ars Technica comme référence dans une explication), de sorte qu’elles se sentent justes, même face au partenariat OpenAI. Compte tenu des faibles scores, il semble que la plupart des modèles d’IA ne soient pas sur un bon départ, mais cela pourrait changer. L’IA générative en est encore à ses débuts.