xAI open source Grok – The Verge

Le 11 mars, Elon Musk dit xAI ouvrirait son chatbot IA Grok, et maintenant une version ouverte est disponible sur GitHub. Cela permettra aux chercheurs et aux développeurs de s’appuyer sur le modèle et d’avoir un impact sur la manière dont xAI mettra à jour Grok à l’avenir, alors qu’il rivalise avec les technologies rivales d’OpenAI, Meta, Google et autres.

Un article de blog d’entreprise explique que cette version ouverte inclut les « poids du modèle de base et l’architecture de réseau » du « modèle de mélange d’experts à 314 milliards de paramètres, Grok-1 ». Il continue en affirmant que le modèle provient d’un point de contrôle d’octobre dernier et n’a pas été peaufiné « pour une application spécifique, telle que le dialogue ».

Comme EntrepriseBeat Remarques, il est publié sous la licence Apache 2.0 qui permet une utilisation commerciale mais n’inclut pas les données utilisées pour l’entraîner ni les connexions à X pour les données en temps réel. xAI dit dans un article de novembre 2023 que le LLM Grok a été « développé au cours des quatre derniers mois » et est destiné à des utilisations liées à la génération de codage, à l’écriture créative et à la réponse aux questions.

Après que Musk ait acheté Twitter (maintenant X), le code derrière ses algorithmes a finalement été publié, et Musk a ouvertement critiqué les entreprises qui n’open-sourcent pas leur modèle d’IA. Cela inclut OpenAI, qu’il a aidé à fonder mais qu’il poursuit maintenant, alléguant que la société a violé un accord fondateur initial selon lequel elle serait open source.

Les entreprises ont publié des modèles open source ou open source limité pour obtenir les commentaires d’autres chercheurs sur la manière de les améliorer. Bien qu’il existe de nombreux modèles de base d’IA entièrement open source comme Mistral et Falcon, les modèles les plus largement utilisés sont soit de source fermée, soit offrent une licence ouverte limitée. Llama 2 de Meta, par exemple, donne ses recherches gratuitement mais fait payer des frais aux clients comptant 700 millions d’utilisateurs quotidiens et ne permet pas aux développeurs d’itérer sur Llama 2.


source site-132