Groq, une startup développant des puces pour exécuter des modèles d’IA génératifs plus rapidement que le matériel conventionnel, a un œil tourné vers l’entreprise – et le secteur public.
Aujourd’hui, Groq a annoncé la création d’une nouvelle division, Groq Systems, axée sur l’expansion considérable de son écosystème de clients et de développeurs. Groq Systems est au service des organisations, y compris des agences gouvernementales, qui souhaitent ajouter les puces Groq aux centres de données existants ou construire de nouveaux centres de données utilisant les processeurs Groq.
En créant la nouvelle unité, Groq a acquis Definitive Intelligence, une société basée à Palo Alto proposant une gamme de solutions d’IA orientées entreprise, notamment des chatbots, des outils d’analyse de données et des créateurs de documentation. Sunny Madra, PDG de Definitive Intelligence, dirige désormais GroqCloud, la plate-forme cloud de Groq qui fournit une documentation matérielle Groq, des exemples de code et un accès API en libre-service aux accélérateurs hébergés dans le cloud de l’entreprise.
« Chez Groq, nous nous engageons à créer une économie de l’IA accessible et abordable pour toute personne ayant une idée brillante », a déclaré Jonathan Ross, cofondateur et PDG de Groq, dans un communiqué de presse. « Nous sommes ravis d’accueillir Sunny et son équipe de Definitive Intelligence pour nous aider à réaliser cette mission… L’équipe de Definitive possède une expertise dans les solutions d’IA et les stratégies de mise sur le marché, ainsi qu’un dévouement avéré au partage de connaissances avec la communauté. »
Madra a cofondé Definitive Intelligence en 2022 avec Gavin Sherry, ancien directeur de l’ingénierie chez EMC. Avant de lancer Definitive Intelligence, Madra et Sherry ont co-lancé Autonomic, une plate-forme basée sur le cloud pour connecter les systèmes de mobilité acquise par Ford en 2018.
Definitive Intelligence propose plusieurs produits GenAI orientés entreprise, notamment OpenAssistants (une collection de bibliothèques open source pour développer des chatbots IA) et Advisor (un générateur de visualisation qui se connecte aux bases de données d’entreprise et publiques). L’un des principaux outils de Definitive est Pioneer, un « agent autonome de science des données » conçu pour gérer diverses tâches d’analyse de données, y compris la modélisation prédictive.
Avant l’acquisition, Definitive Intelligence avait levé 25,5 millions de dollars en capital-risque.
« Le monde réalise tout juste à quel point l’inférence à grande vitesse est importante pour l’IA générative », a déclaré Madra dans un communiqué envoyé par courrier électronique. « Chez Groq, nous offrons aux développeurs la vitesse, la faible latence et l’efficacité dont ils ont besoin pour tenir la promesse de l’IA générative. Je suis un grand fan de Groq depuis que j’ai rencontré Jonathan pour la première fois en 2016 et je suis ravi de le rejoindre ainsi que l’équipe Groq dans leur quête visant à proposer le moteur d’inférence le plus rapide au monde.
Groq, qui est sorti furtif en 2016, crée ce qu’il appelle un moteur d’inférence LPU (unité de traitement du langage). La société affirme que son LPU peut exécuter de grands modèles de langage existants dont l’architecture est similaire à celle de ChatGPT et GPT-4 d’OpenAI à une vitesse 10 fois supérieure.
La renommée de Ross a contribué à l’invention de l’unité de traitement tensoriel (TPU), la puce accélératrice d’IA personnalisée de Google utilisée pour entraîner et exécuter des modèles.
Definitive Intelligence est la deuxième acquisition de Groq après Maxeler Technologies, une société de solutions d’infrastructure de calcul et d’IA haute performance, en 2022. Ce n’est peut-être pas la dernière. Le marché des puces d’IA personnalisées est très compétitif et, dans la mesure où l’achat définitif révèle les plans de Groq, Groq a clairement l’intention de s’implanter avant que ses concurrents n’aient une chance.