Il y a un an aujourd’hui, le 30 novembre 2022, OpenAI publiait ChatGPT. Il est rare qu’un seul produit crée autant d’impact sur l’industrie technologique que ChatGPT en seulement un an.
Imaginez un ordinateur qui peut vous parler. Rien de nouveau, non ? Ceux-ci existent depuis les années 1960. Mais ChatGPT, l’application qui a été la première à proposer des modèles de langage étendus (LLM) à un large public, semblait différente. Il pourrait composer de la poésie, comprendre apparemment le contexte de vos questions et de votre conversation et vous aider à résoudre des problèmes. En quelques mois, elle est devenue l’application grand public connaissant la croissance la plus rapide de tous les temps. Et cela a créé une frénésie dans le monde de la technologie.
Au cours de ces 365 jours, ChatGPT a élargi la perception du public sur l’IA, captivé l’imagination, attiré les critiques et attisé l’angoisse existentielle. Cela a enhardi et réorienté Microsoft, fait danser Google, attisé les craintes d’une domination mondiale de l’AGI, captivé les dirigeants mondiaux, incité à des tentatives de réglementation gouvernementale, aidé à ajouter des mots aux dictionnaires, inspiré des conférences et des imitateurs, conduit à une crise pour les éducateurs, hyper-chargé. diffamation automatisée, avocats embarrassés en hallucinant, poursuites judiciaires concernant les données de formation, et bien plus encore.
Pour certains, ChatGPT s’est également révélé être un outil utile, accélérant les tâches de programmation de certains développeurs de logiciels, aidant les rédacteurs dans les tâches de composition et d’édition et fournissant des conseils rapides, sans publicité et sans bannière de cookies, sur des sujets à une époque où certains réseaux sociaux les sites médiatiques se sont fracturés et notre ancien oracle de connaissances Internet parfois douteuses, Google, est tombé dans un terrible délabrement.
« Imaginez si chaque être humain pouvait automatiser les tâches d’information fastidieuses et répétitives de sa vie, sans avoir besoin d’obtenir au préalable un diplôme en informatique », a déclaré à Ars le chercheur en IA Simon Willison dans une interview sur l’impact de ChatGPT. « Je commence à entrevoir que les LLM pourraient contribuer à faire un grand pas dans cette direction. »
De la démo technologique au titan de la technologie
Malgré tout l’impact, rien de tout cela n’était prévu avant le lancement de ChatGPT. En fait, cela a commencé comme une démonstration technologique. Selon un excellent article sur la création de ChatGPT du MIT Technology Review publié en mars – qui pourrait aussi bien remonter à 3 000 ans – OpenAI le considérait comme un aperçu de la recherche, un moyen de recueillir des commentaires sur ses défauts en l’ouvrant au public. . « Nous ne voulions pas le présenter comme une grande avancée fondamentale », a déclaré Liam Fedus, scientifique d’OpenAI, à cette publication.
ChatGPT est basé sur une technologie qui tente de prédire le prochain jeton, ou fragment de mot, le plus probable, dans une séquence. En 2019, après la sortie de GPT-2, quelqu’un s’est rendu compte que cette technologie pouvait être transformée en chatbot si le grand modèle de langage recevait la transcription d’une conversation qu’il devait terminer. Grâce à cette méthode, chaque invite du modèle de langage inclut l’historique complet de la conversation. À l’ère GPT-3, OpenAI a inclus une implémentation de cette fonctionnalité de type chat dans la zone de test des développeurs (appelée « Playground ») sur son site Web, mais elle n’était pas accessible au public. Avec ChatGPT, OpenAI a repris ce concept, l’a rationalisé en affinant une version de GPT-3 sur les transcriptions de chat et l’a publié pour que le public puisse jouer avec.
D’un point de vue technologique, ChatGPT n’a pas semblé particulièrement nouveau au départ, parmi ceux qui s’intéressent à l’IA. Les chatbots existaient depuis un certain temps. GPT-3, le modèle d’IA qui a conduit à ChatGPT, était disponible depuis 2020. En septembre 2022, un site de discussion sur l’IA convaincant appelé Character.ai a été lancé, et nous l’avons utilisé pour interviewer « Linux ». Et à peine deux semaines avant ChatGPT, Meta avait été publiquement humiliée pour avoir lancé une avant-première publique de Galactica, un modèle d’IA qui prétendait écrire de la littérature scientifique mais pouvait aussi halluciner des absurdités racistes.
Mais par rapport à Galactica, OpenAI a abordé les choses sous un angle différent avec ChatGPT. Dès le début, l’entreprise a adopté une approche modeste et prudente qui a permis à l’expérience de se poursuivre même malgré des tests publics rigoureux. Dès le départ, ChatGPT a refusé de répondre à certaines questions incendiaires, et alors que les utilisateurs rusés à la recherche de points sur les réseaux sociaux contournaient chaque limitation, OpenAI a érigé de nouveaux garde-corps pour maintenir ChatGPT en ligne. Ces limitations ont frustré beaucoup de gens, qui détestaient le fait de se tenir la main artificiellement, mais elles ont empêché des flambées médiatiques qui auraient autrement pu tuer le projet.
Le PDG d’OpenAI, Sam Altman, a également été ouvert sur les limites de ChatGPT. Peu après le lancement, il tweeté, « ChatGPT est incroyablement limité, mais suffisamment bon dans certains domaines pour créer une impression trompeuse de grandeur. C’est une erreur de s’appuyer sur lui pour quelque chose d’important en ce moment. C’est un aperçu des progrès ; nous avons beaucoup de travail à faire sur la robustesse. et la véracité. » Plus tard, il a écrit« JEElle sait beaucoup de choses, mais le danger est qu’elle est confiante et se trompe la plupart du temps. »
Mais ChatGPT ne s’est jamais arrêté. OpenAI teste fréquemment de nouvelles fonctionnalités auprès d’un large public, qui l’utilise souvent gratuitement, bien qu’un niveau payant pour un accès prioritaire (ChatGPT Plus) ait été ajouté en février. Avec le lancement de GPT-4 en mars 2023, ChatGPT a reçu une mise à niveau spectaculaire, réduisant les confabulations et devenant un assistant plus fiable. Depuis lors, OpenAI a ajouté des conversations vocales, la génération d’images et l’interprétation d’images à ChatGPT. À ce jour, le GPT-4 de ChatGPT est toujours largement considéré comme le favori parmi les modèles de langage d’IA, même si des géants comme Google se précipitent pour rattraper PalM et Gemini.