Meta a annoncé mardi la sortie de Llama 3.1, la dernière version de son modèle de langage à grande échelle qui, selon l’entreprise, rivalise désormais avec ses concurrents OpenAI et Anthropic. Le nouveau modèle intervient seulement trois mois après que Meta ait lancé Llama 3 en l’intégrant à Meta AI, un chatbot qui est désormais présent sur Facebook, Messenger, Instagram et WhatsApp et qui équipe également les lunettes intelligentes de l’entreprise. Entre-temps, OpenAI et Anthropic ont déjà publié de nouvelles versions de leurs propres modèles d’IA, signe que la course aux armements de l’IA dans la Silicon Valley n’est pas prête de ralentir.
Meta a déclaré que le nouveau modèle, appelé Llama 3.1 405B, est le premier modèle disponible en libre accès capable de rivaliser avec ses concurrents en matière de connaissances générales, de compétences mathématiques et de traduction dans plusieurs langues. Le modèle a été entraîné sur plus de 16 000 GPU NVIDIA H100, les puces actuellement les plus rapides disponibles qui coûtent environ 25 000 dollars chacune, et peut battre ses concurrents sur plus de 150 tests, a affirmé Meta.
Le « 405B » représente 405 milliards de paramètres, qui sont des variables internes qu’un modèle d’IA utilise pour raisonner et prendre des décisions. Plus le nombre de paramètres d’un modèle d’IA est élevé, plus nous le percevons comme étant intelligent. En comparaison, le modèle GPT-4 d’OpenAI aurait environ 1,5 billion de paramètres, bien que la société n’ait pas encore dévoilé ce nombre. En outre, Meta a également publié des versions améliorées des modèles Llama existants qui contiennent 70 milliards et 8 milliards de paramètres chacun, affirmant que les nouvelles versions avaient, entre autres, des capacités de raisonnement plus fortes.
Les développeurs peuvent télécharger Llama 3.1 depuis son site officiel, tandis que les utilisateurs réguliers peuvent jouer avec via Meta AI dans WhatsApp ou sur meta.ai, le site Web de la société pour son chatbot. « Les capacités de raisonnement améliorées de Llama 405B permettent à Meta AI de comprendre et de répondre à vos questions les plus complexes, en particulier sur les sujets de mathématiques et de codage », indique le billet de blog de Meta. « Vous pouvez obtenir de l’aide pour vos devoirs de mathématiques avec des explications et des commentaires étape par étape, écrire du code plus rapidement avec l’assistance au débogage et l’optimisation. » (Note de l’éditeur : Engadget opposera Llama 3.1 au New York Times (Spelling Bee et je vous ferai un compte rendu). Pour l’instant, Meta AI sur Facebook, Messenger et Instagram est toujours limité à la version plus petite de Llama 3.1 qui utilise 70 milliards de paramètres.
Contrairement à OpenAI, Google, Microsoft et Anthropic qui conservent leurs modèles d’IA propriétaires, les modèles d’IA de Meta sont open source, ce qui signifie que n’importe qui peut les modifier et les utiliser gratuitement et sans partager de données personnelles avec Meta. Dans une lettre publiée mardi, le PDG de Meta, Mark Zuckerberg, a fait valoir qu’une approche open source du développement de l’IA garantirait un accès plus large aux avantages de la technologie, empêcherait la concentration du pouvoir entre quelques grandes entreprises et permettrait un déploiement plus sûr de l’IA dans la société. En rendant open source le plus grand modèle de langage de l’entreprise à ce jour, Meta vise à faire de Llama la « norme industrielle » pour quiconque souhaite développer des applications et des services basés sur l’IA, a écrit Zuckerberg.
L’open source de modèles d’IA et leur ajout à ses produits existants déjà utilisés par des milliards de personnes pourraient permettre à Meta de concurrencer plus efficacement OpenAI dont les chatbots ChatGPT et DALL-E ont déclenché une explosion de l’IA lors de leur lancement en 2022. Et cela pourrait également stimuler l’engagement – Meta a annoncé aujourd’hui que les utilisateurs pourraient bientôt ajouter des images générées par l’IA directement dans les flux, les stories, les commentaires et les messages sur Facebook, Messenger, WhatsApp et Instagram.
Dans sa lettre, Zuckerberg a également critiqué Apple et son écosystème fermé, affirmant que les politiques restrictives et arbitraires du fabricant d’iPhone avaient limité ce que Meta pouvait construire sur ses plateformes.[It’s] « Il est clair que Meta et de nombreuses autres entreprises seraient libres de créer de bien meilleurs services pour les gens si nous pouvions créer les meilleures versions de nos producteurs et si nos concurrents n’étaient pas en mesure de restreindre ce que nous pouvions construire », a-t-il écrit.