OpenAI espère gagner la confiance des parents – et des décideurs politiques – en s’associant à des organisations qui s’efforcent de minimiser les dommages causés par la technologie et les médias aux enfants, aux préadolescents et aux adolescents.
Par exemple, OpenAI a annoncé aujourd’hui un partenariat avec Common Sense Media, l’organisation à but non lucratif qui examine et classe l’adéquation de divers médias et technologies pour les enfants, pour collaborer sur les lignes directrices en matière d’IA et le matériel pédagogique destiné aux parents, aux éducateurs et aux jeunes adultes.
Dans le cadre de ce partenariat, OpenAI travaillera avec Common Sense Media pour créer des GPT « adaptés aux familles » — des applications de chatbot alimentées par les modèles GenAI d’OpenAI — dans le GPT Store, le marché GPT d’OpenAI, sur la base des normes de notation et d’évaluation de Common Sense, OpenAI. » déclare le PDG Sam Altman.
« L’IA offre des avantages incroyables aux familles et aux adolescents, et notre partenariat avec Common Sense renforcera encore notre travail en matière de sécurité, garantissant que les familles et les adolescents peuvent utiliser nos outils en toute confiance », a ajouté Altman dans une déclaration prédéfinie.
Le lancement du partenariat intervient après qu’OpenAI a annoncé qu’il participerait au nouveau cadre de Common Sense, lancé en septembre, pour les évaluations et les avis destinés à évaluer la sécurité, la transparence, l’utilisation éthique et l’impact des produits d’IA. Le cadre de Common Sense vise à produire une « étiquette nutritionnelle » pour les applications basées sur l’IA, selon James Steyer, co-fondateur et PDG de Common Sense, afin de faire la lumière sur les contextes dans lesquels les applications sont utilisées et de mettre en évidence les domaines d’opportunités et de dommages potentiels. un ensemble de principes de « bon sens ».
Le logo OpenAI affiché sur l’écran d’un smartphone devant l’écran de l’ordinateur avec le logo ChatGPT. Crédits images : Didem Mente/Agence Anadolu / Getty Images
Dans un communiqué de presse, Steyer a fait allusion au fait que les parents d’aujourd’hui restent généralement moins informés sur les outils GenAI – par exemple, ChatGPT, le chatbot viral alimenté par l’IA d’OpenAI – que les jeunes générations. Un sondage Impact Research commandé par Common Sense Media à la fin de l’année dernière a révélé que 58 % des étudiants âgés de 12 à 18 ans ont utilisé ChatGPT, contre 30 % des parents d’enfants d’âge scolaire.
« Ensemble, Common Sense et OpenAI travailleront pour garantir que l’IA ait un impact positif sur tous les adolescents et leurs familles », a déclaré Steyer dans un communiqué envoyé par courrier électronique. «Nos guides et notre curation seront conçus pour éduquer les familles et les éducateurs sur une utilisation sûre et responsable des [OpenAI tools like] ChatGPT, afin que nous puissions collectivement éviter toute conséquence involontaire de cette technologie émergente.
OpenAI est sous la pression des régulateurs pour montrer que ses applications basées sur GenAI, y compris ChatGPT, sont une aubaine globale pour la société et non un préjudice pour elle. L’été dernier, la Federal Trade Commission des États-Unis a ouvert une enquête sur OpenAI pour déterminer si ChatGPT avait porté préjudice aux consommateurs en collectant des données et en publiant de fausses déclarations sur des individus. Les autorités européennes chargées des données ont également exprimé leurs inquiétudes concernant le traitement des informations privées par OpenAI.
Les outils d’OpenAI, comme tous les outils GenAI, ont tendance à inventer des choses avec confiance et à se tromper sur les faits de base. Et ils sont biaisés – un reflet des données qui ont été utilisées pour les former.
Les enfants et les adolescents, conscients ou non des limites de ces outils, se tournent de plus en plus vers eux pour obtenir de l’aide non seulement pour leurs devoirs scolaires mais aussi pour leurs problèmes personnels. Selon un sondage du Center for Democracy and Technology, 29 % des enfants déclarent avoir utilisé ChatGPT pour gérer des problèmes d’anxiété ou de santé mentale, 22 % pour des problèmes avec des amis et 16 % pour des conflits familiaux.