Le climat de financement des startups de puces IA, autrefois aussi ensoleillé qu’une journée de mi-juillet, commence à s’assombrir à mesure que Nvidia affirme sa domination.
Selon un rapport récent, les entreprises américaines de puces n’ont levé que 881 millions de dollars entre janvier 2023 et septembre 2023, contre 1,79 milliard de dollars au cours des trois premiers trimestres de 2022. La société de puces IA Mythic a manqué de liquidités en 2022 et a été presque contrainte d’arrêter ses activités. tandis que Graphcore, un rival autrefois bien capitalisé, est désormais confronté à des pertes croissantes.
Mais une startup semble avoir trouvé le succès dans le domaine ultra-compétitif – et de plus en plus encombré – des puces IA.
Hailo, cofondée en 2017 par Orr Danon et Avi Baum, auparavant CTO pour la connectivité sans fil chez l’entreprise de microprocesseurs Texas Instruments, conçoit des puces spécialisées pour exécuter des charges de travail d’IA sur des appareils de pointe. Les puces de Hailo exécutent des tâches d’IA avec une utilisation de mémoire et une consommation d’énergie inférieures à celles d’un processeur classique, ce qui en fait un candidat idéal pour les appareils compacts, hors ligne et alimentés par batterie, tels que les voitures, les caméras intelligentes et la robotique.
« J’ai cofondé Hailo avec pour mission de rendre l’IA haute performance disponible à grande échelle en dehors du domaine des centres de données », a déclaré Danon à TechCrunch. « Nos processeurs sont utilisés pour des tâches telles que la détection d’objets, la segmentation sémantique, etc., ainsi que pour l’amélioration des images et des vidéos grâce à l’IA. Plus récemment, ils ont été utilisés pour exécuter des modèles de langage étendus (LLM) sur des appareils de pointe, notamment des ordinateurs personnels, des unités de commande électroniques d’infodivertissement et bien plus encore.
De nombreuses startups de puces IA n’ont pas encore décroché un seul contrat majeur, encore moins des dizaines ou des centaines. Mais Hailo compte aujourd’hui plus de 300 clients, affirme Danon, dans des secteurs tels que l’automobile, la sécurité, la vente au détail, l’automatisation industrielle, les dispositifs médicaux et la défense.
Dans un pari sur les perspectives d’avenir de Hailo, une cohorte de bailleurs de fonds, dont l’homme d’affaires israélien Alfred Akirov, l’importateur automobile Delek Motors et la plateforme de capital-risque OurCrowd, ont investi 120 millions de dollars dans Hailo cette semaine, une extension de la série C de l’entreprise. Danon a déclaré que le nouveau Le capital « permettra à Hailo de tirer parti de toutes les opportunités en cours » tout en « préparant le terrain pour une croissance à long terme ».
« Nous sommes stratégiquement positionnés pour amener l’IA aux appareils de pointe de manière à étendre considérablement la portée et l’impact de cette nouvelle technologie remarquable », a déclaré Danon.
Maintenant, vous vous demandez peut-être si une startup comme Hailo vraiment Avez-vous une chance contre les géants des puces comme Nvidia et, dans une moindre mesure, Arm, Intel et AMD ? C’est ce que pense un expert, Christos Kozyrakis, professeur de génie électrique et d’informatique à Stanford : il estime que les puces accélératrices comme celle de Hailo deviendront « absolument nécessaires » à mesure que l’IA prolifère.
Crédits images : Haïlo
« L’écart d’efficacité énergétique entre les processeurs et les accélérateurs est trop important pour être ignoré », a déclaré Kozyrakis à TechCrunch. « Vous utilisez les accélérateurs pour plus d’efficacité avec des tâches clés (par exemple l’IA) et disposez d’un ou deux processeurs sur le côté pour la programmabilité. »
Kozyrakis fait voit la longévité constituer un défi pour le leadership de Hailo – par exemple, si les architectures de modèles d’IA que ses puces sont conçues pour fonctionner efficacement tombent de mode. Le support logiciel pourrait également poser problème, explique Kozyrakis, si une masse critique de développeurs n’est pas disposée à apprendre à utiliser les outils construits autour des puces Hailo.
« La plupart des défis en matière de puces personnalisées se situent dans l’écosystème logiciel », a déclaré Kozyrakis. « C’est là que Nvidia, par exemple, a un énorme avantage sur les autres sociétés en matière d’IA, car elles investissent dans des logiciels pour leurs architectures depuis plus de 15 ans. »
Mais, avec 340 millions de dollars en banque et un effectif d’environ 250 personnes, Danon se sent confiant quant à la voie à suivre pour Hailo, du moins à court terme. Il estime que la technologie de la startup répond à bon nombre des défis rencontrés par les entreprises en matière d’inférence d’IA basée sur le cloud, en particulier la latence, le coût et l’évolutivité.
« Les modèles d’IA traditionnels s’appuient sur une infrastructure basée sur le cloud, souffrant souvent de problèmes de latence et d’autres défis », a déclaré Danon. « Ils sont incapables de fournir des informations et des alertes en temps réel, et leur dépendance aux réseaux met en péril la fiabilité et l’intégration avec le cloud, ce qui pose des problèmes de confidentialité des données. Hailo relève ces défis en proposant des solutions qui fonctionnent indépendamment du cloud, les rendant ainsi capables de gérer des quantités beaucoup plus élevées de traitement d’IA.
Curieux de connaître le point de vue de Danon, j’ai posé des questions sur l’IA générative et sa forte dépendance au cloud et aux centres de données distants. Hailo voit sûrement que le modèle actuel descendant et centré sur le cloud (par exemple le modus operandi d’OpenAI) est une menace existentielle ?
Danon a déclaré qu’au contraire, l’IA générative génère une nouvelle demande pour le matériel Hailo.
« Ces dernières années, nous avons constaté une augmentation de la demande d’applications d’IA de pointe dans la plupart des secteurs, allant de la sécurité aéroportuaire à l’emballage alimentaire », a-t-il déclaré. « Le nouvel essor de l’IA générative renforce encore cette demande, car nous constatons des demandes de traitement local des LLM de la part de clients non seulement des secteurs informatique et automobile, mais également de l’automatisation industrielle, de la sécurité et autres.
Et ça.