La startup française Mistral AI a officiellement clôturé son très attendu cycle de financement de série A. La société a levé 385 millions d’euros, soit 415 millions de dollars au taux de change actuel. Selon Bloomberg, elle valorise l’entreprise à environ 2 milliards de dollars. Mistral AI ouvre également aujourd’hui sa plateforme commerciale.
Pour rappel, Mistral AI a levé il y a moins de six mois un tour de table de 112 millions de dollars pour créer un rival européen à OpenAI. Co-fondé par les anciens de DeepMind et Meta de Google, Mistral AI travaille sur des modèles fondamentaux avec un angle technologique ouvert.
Andreessen Horowitz (a16z) dirige le dernier cycle de financement, Lightspeed Venture Partners investissant à nouveau dans la société d’IA. Ce n’est pas tout, puisqu’une longue liste d’investisseurs participe également au tour de table, comme Salesforce, BNP Paribas, CMA-CGM, General Catalyst, Elad Gil et Conviction.
« Depuis la création de Mistral AI en mai, nous suivons une trajectoire claire : celle de créer un champion européen à vocation mondiale dans l’intelligence artificielle générative, fondé sur une approche ouverte, responsable et décentralisée de la technologie », a co-dirigé Mistral AI. a déclaré le fondateur et PDG Arthur Mensch dans un communiqué.
En septembre, Mistral AI a sorti son premier modèle baptisé Mistral 7B. Ce grand modèle de langage n’est pas destiné à concurrencer directement GPT-4 ou Claude 2 car il a été formé sur un « petit » ensemble de données d’environ 7 milliards de jetons comme paramètres.
Au lieu d’ouvrir l’accès au modèle Mistral 7B via des API, la société l’a rendu disponible en téléchargement gratuit afin que les développeurs puissent l’exécuter sur leurs appareils et serveurs.
Le modèle a été publié sous la licence Apache 2.0, une licence open source qui n’a aucune restriction d’utilisation ou de reproduction au-delà de l’attribution. Bien que le modèle puisse être exécuté par n’importe qui, il a été développé à huis clos avec un ensemble de données exclusives et non divulguées.
Mistral AI a également joué un rôle important dans l’orientation des discussions autour de la loi européenne sur l’IA. La start-up française d’IA fait pression pour une exemption totale des modèles fondamentaux, affirmant que la réglementation devrait s’appliquer aux cas d’utilisation et aux entreprises travaillant sur des produits utilisés directement par les utilisateurs finaux.
Les législateurs européens sont parvenus à un accord politique il y a quelques jours seulement. Les entreprises travaillant sur des modèles fondamentaux seront confrontées à certaines exigences de transparence et devront partager la documentation technique et les résumés du contenu des ensembles de données.
Le meilleur modèle de Mistral AI n’est désormais accessible que via une API
L’entreprise prévoit toujours de gagner de l’argent grâce à ses modèles fondateurs. C’est pourquoi Mistral AI ouvre aujourd’hui sa plateforme de développement en version bêta. Avec cette plateforme, d’autres entreprises pourront payer pour utiliser les modèles de Mistral AI via des API.
En plus du modèle Mistral 7B (« Mistral-tiny »), les développeurs pourront accéder au nouveau modèle Mixtral 8x7B (« Mistral-small »). Ce modèle utilise « un réseau de routeurs » pour traiter les jetons d’entrée et choisir le groupe de paramètres le plus approprié pour donner une réponse.
« Cette technique augmente le nombre de paramètres d’un modèle tout en contrôlant le coût et la latence, car le modèle n’utilise qu’une fraction de l’ensemble total de paramètres par jeton. Concrètement, Mixtral a 45 milliards de paramètres au total mais n’utilise que 12 milliards de paramètres par jeton. Il traite donc les entrées et génère la sortie à la même vitesse et pour le même coût qu’un modèle 12B », a écrit la société dans un article de blog.
Mistral 8x7B a également été publié sous la licence Apache 2.0 et est disponible en téléchargement gratuit. Un troisième modèle, Mistral-medium, est disponible sur la plateforme développeur de Mistral. Il est censé fonctionner mieux que les autres modèles de Mistral AI et il n’est disponible que via la plate-forme API payante – aucun lien de téléchargement n’est disponible.