Dans quelle langue parle une IA ? Vous pourriez penser que ce serait une série de bips et de boops ou de code binaire, mais il s’avère que ChatGPT a fait le sien, et nous, les humains, pouvons l’utiliser pour obtenir plus du chatbot AI.
La limite de mots de ChatGPT peut amener l’IA à arrêter les conversations au milieu d’une phrase avec le seul choix de démarrer une nouvelle conversation et de réinitialiser tout le contexte précédent. Il n’y a pas de mot officiel sur ce que peut être la limite stricte d’une conversation ChatGPT, mais 8 000 mots est la limite généralement convenue. Mais les utilisateurs utilisant le langage ChatGPT « Shogtongue » peuvent continuer les conversations apparemment indéfiniment.
Écrivain et auteur d’IA Jérémy Nguyen a découvert cette astuce en demandant à l’IA de compresser leur conversation « d’une manière qui est sans perte mais qui se traduit par le nombre minimum de jetons qui pourraient être introduits dans un LLM comme vous tel quel et produire le même résultat ». En substance, il a demandé à l’IA de créer un mot de passe qui a enregistré sa progression dans la conversation.
3/ Après avoir longuement discuté, demandez à GPT-4 de tout compresser dans son propre langage étrange. D’où a-t-il appris ce langage ? ! pic.twitter.com/CNhkyl596o10 avril 2023
Nguyen a précisé que l’encodage n’avait pas besoin d’être sous une forme que les humains pouvaient lire, c’est là qu’intervient ce qui a été surnommé « Shogtongue ». Il s’agit d’un code de la propre création de ChatGPT qui, lorsqu’il est copié et collé dans un nouveau chat, permet l’IA pour reprendre là où elle s’était arrêtée, avec tout le contexte conservé.
Nos propres efforts ont été moins fructueux. Bien qu’elle ait copié mot pour mot l’invite de Nguyen, l’IA l’a simplement interprété comme un résumé de ce dont nous avons discuté jusqu’à présent en termes plus petits. Dans les occasions où il a produit une réponse codée, nous ne pouvons pas lui faire mémoriser le contexte lors de l’ouverture d’un nouveau chat. Nguyen lui-même a admis que cette méthode n’est pas complètement fiable et ne fonctionnera pas du tout sur GPT-3.5 ou sur l’API GPT-4.
Pourquoi ChatGPT a-t-il une limite de mots ?
Bien qu’il semble cruel d’effacer la mémoire d’un ami à chaque nouvelle conversation, c’est pour une bonne raison. La plupart des conversations n’atteindront jamais rien près de la limite de mots et il a été démontré que les conversations plus longues avec les chatbots augmentent la probabilité d' »hallucinations » de l’IA où ils commencent à cracher des informations incorrectes ou à se comporter de manière erratique. C’est ce genre de conversation qui a vu le nouveau Bing avec ChatGPT aller au fond des choses avec Microsoft installant à contrecœur une limite de tour en conséquence.
Tout comme les conversations avec des amis ont des blagues privées et des rappels, les conversations plus longues avec ChatGPT ont de plus en plus de contexte dans lequel l’IA peut puiser et il peut devenir assez complexe de soutenir une conversation sur plusieurs sujets pendant des dizaines de « tours ». Au fur et à mesure que la technologie s’améliorera avec le temps, les compétences conversationnelles de l’IA augmenteront sans aucun doute, au point que toute limite de mots est purement arbitraire et inaccessible, peut-être en utilisant des méthodes de codage similaires aux efforts de Nguyen.