Anthropic affirme avoir considérablement augmenté la quantité d’informations que son IA générative, Claude, est capable de traiter. Claude est passé d’une limite de 9 000 jetons à 100 000 jetons, ce qui correspond à environ 75 000 mots. C’est un roman complet. Pour mettre cela en perspective, Claude a maintenant la capacité de lire et de terminer facilement le livre d’Ernest Hemingway. Un adieu aux armes (74 240 mots), de Mary Shelley Frankenstein (74 800 mots) et Mark Twain Les aventures de Tom Sawyer (69 000 mots). Et comme Le bord notes, la société affirme que Claude peut lire et analyser les informations de chaque livre en moins d’une minute.
Les IA génératives comme Claude sont encore limitées par le nombre de « tokens » qu’elles peuvent traiter. Comme OpenAI l’explique dans sa page d’aide, vous pouvez considérer les jetons comme des morceaux de mots. L’IA découpe les mots pour le traitement, et ils ne sont pas toujours découpés du début à la fin de chaque mot, car les espaces et autres caractères sont également inclus. À l’heure actuelle, le modèle GPT-4 standard d’OpenAI est capable de traiter 8 000 jetons, tandis qu’une version étendue peut traiter 32 000 jetons. Pendant ce temps, son chatbot ChatGPT accessible au public a une limite d’environ 4 000 jetons.
Maintenant, Claude a une fenêtre de contexte beaucoup plus large qu’eux tous. Selon Anthropic, il a chargé Gatsby le magnifique sur l’IA pendant les tests et a modifié une seule ligne pour dire que M. Carraway était « un ingénieur logiciel qui travaille sur les outils d’apprentissage automatique chez Anthropic ». Claude a pu repérer comment le livre a été modifié en 22 secondes.
La fenêtre contextuelle étendue de l’IA est désormais disponible pour les partenaires commerciaux d’Anthropic qui utilisent son API. Anthropic affirme que cette capacité aidera les entreprises à digérer et à résumer rapidement de longs états financiers et documents de recherche, à évaluer des textes législatifs, à identifier les risques et les arguments dans les documents juridiques et à parcourir la documentation dense des développeurs, entre autres tâches possibles.