Le ministère de l’Éducation de la ville de New York a bloqué l’accès à ChatGPT sur ses réseaux et ses appareils, craignant que l’outil d’IA ne nuise à l’éducation des élèves.
Une porte-parole du ministère, Jenna Lyle, Raconté Chalkbeat New York – le site d’information axé sur l’éducation qui a d’abord rapporté l’histoire – que l’interdiction était due à des « impacts négatifs potentiels sur l’apprentissage des élèves et à des préoccupations concernant la sécurité et l’exactitude du contenu ».
« Bien que l’outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles à la réussite scolaire et tout au long de la vie », a déclaré Lyle.
ChatGPT a été publié en novembre dernier par la société d’intelligence artificielle OpenAI basée à San Francisco, et a déclenché un énorme débat sur les effets potentiels de l’apprentissage automatique sur tout, de l’éducation à la désinformation et au monde du travail.
La qualité la plus révolutionnaire de ChatGPT est que tout le monde peut l’utiliser
La qualité la plus révolutionnaire de ChatGPT est son interface utilisateur en libre accès et sa capacité à répondre aux questions dans un langage proche de l’humain. L’outil est non seulement capable de discuter d’un large éventail de sujets en utilisant des données extraites d’Internet, mais peut effectuer un certain nombre d’astuces linguistiques, comme écrire dans différents styles et genres – des quatrains médiévaux aux scripts de sitcom.
Cependant, ChatGPT souffre également de défaillances communes à tous les systèmes de langage d’IA les plus récents (appelés grands modèles de langage ou LLM). Parce qu’il est formé sur des données extraites d’Internet, il répète et amplifie souvent des préjugés comme le sexisme et le racisme dans ses réponses. Le système est également enclin à simplement inventer des informations, des dates historiques aux lois scientifiques, et à les présenter comme des faits exacts.
C’est cette combinaison de caractéristiques – fluidité, accessibilité et désinformation – qui rend l’outil particulièrement inquiétant pour les éducateurs. De nombreux enseignants ont dit que des logiciels comme ChatGPT essentiellement rend impossible pour tester la capacité des élèves à rédiger des dissertations à la maison. Pourquoi s’embêter à écrire un devoir si ChatGPT peut faire le travail pour vous en quelques secondes ? Et bien que des outils pour détecter l’écriture générée par l’IA existe déjàon ne sait pas à quel point ces systèmes seront précis ou si les étudiants seront capables de les déjouer avec de simples modifications du texte généré par l’IA.
D’autres, cependant, soutiennent que le système d’éducation sera simplement il faut s’adapter à l’apparition de cette technologie – tout comme elle s’est adaptée aux technologies perturbatrices antérieures telles que Google Search et Wikipedia. Les nouvelles normes de test pourraient se concentrer davantage sur les examens en personne, par exemple, ou un enseignant pourrait demander aux élèves d’interroger les résultats des systèmes d’IA (tout comme ils sont censés interroger les sources d’informations trouvées en ligne).
Mais de telles adaptations prendront du temps, et il est probable que d’autres systèmes éducatifs interdiront également l’écriture générée par l’IA dans un proche avenir. Déjà, certaines plates-formes en ligne – comme le site de codage de questions-réponses Stack Overflow – ont interdit les overs ChatGPT craignant que l’outil ne pollue l’exactitude de leurs sites.