Ars Technica
Les écoles publiques de la ville de New York ont bloqué l’accès au modèle d’IA ChatGPT d’OpenAI sur son réseau et ses appareils, rapporte le site d’informations éducatives Chalkbeat. Cette décision intervient au milieu des craintes des éducateurs que les étudiants utilisent ChatGPT pour tricher sur les devoirs, introduisent accidentellement des inexactitudes dans leur travail ou rédigent des essais d’une manière qui les empêchera d’apprendre le matériel.
ChatGPT est un grand modèle de langage créé par OpenAI, et il est actuellement accessible gratuitement via n’importe quel navigateur Web pendant sa période de test. Les gens peuvent l’utiliser pour écrire des essais, de la poésie et des documents techniques (ou même simuler une console Linux) à un niveau qui peut souvent passer pour une écriture humaine, bien qu’il puisse également produire un son très confiant, mais inexacte résultats.
Selon Chalkbeat, la porte-parole du département de l’éducation de NYC, Jenna Lyle, a déclaré : « En raison de préoccupations concernant les impacts négatifs sur l’apprentissage des élèves et de préoccupations concernant la sécurité et l’exactitude du contenu, l’accès à ChatGPT est limité sur les réseaux et les appareils des écoles publiques de la ville de New York. Bien que le outil peut être en mesure de fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles pour la réussite scolaire et tout au long de la vie.
Les préoccupations éducatives concernant les grands modèles de langage se sont généralisées en septembre après que quelqu’un sur le subreddit OpenAI a affirmé qu’il utilisait GPT-3 (la technologie fondamentale derrière ChatGPT) pour rédiger des essais et répondre à des questions pour des projets scolaires. À ce stade, GPT-3 n’était accessible que via une API ou une interface utilisateur spéciale via le site Web OpenAI et moyennant des frais basés sur l’utilisation. Après qu’OpenAI a présenté gratuitement ChatGPT à un public beaucoup plus large le 30 novembre, les appels d’alarme se sont répandus parmi les éducateurs.
En tant que modèle de prédiction linguistique, ChatGPT est un type de réseau neuronal formé sur le texte de millions de livres et de sites Web. La « connaissance » du modèle des constructions de texte typiques l’aide à prédire la sortie la plus probable après que quelqu’un a saisi une invite. Donc, si on lui donne une invite telle que « Mary avait un », il pourrait compléter la phrase avec « petit agneau », en tirant des associations statistiques les plus fréquentes entre les mots que le modèle d’IA a rencontrés au cours du processus de formation. Au cours d’une session avec ChatGPT, l’intégralité de l’historique de la conversation est l’invite que le modèle tente de compléter, bien que sous une forme conversationnelle.
Bien que ChatGPT soit bloqué sur les réseaux informatiques des écoles publiques de New York, Chalkbeat rapporte que les écoles individuelles peuvent demander l’accès à ChatGPT pour étudier la technologie sous-jacente. Et bien qu’il ne soit pas clair si ChatGPT aura l’un des effets redoutés sur l’éducation, cette décision du plus grand district scolaire des États-Unis pourrait en inspirer d’autres à promulguer des interdictions similaires sur la technologie.