Plus tôt cette semaine, le New York Times a mis en lumière une partie du désespoir que vivent les fondateurs alors qu’ils tentent et échouent à sécuriser la puissance de calcul de leurs startups naissantes d’intelligence artificielle, grâce aux grandes entreprises (et même aux nations riches) qui se précipitent pour arracher eux. Un fondateur aurait dit des unités de traitement graphique, ou GPU, dont il a besoin pour son entreprise : « je pense à [them] en tant que métal de terre rare à ce stade.”
Selon cet article du Times, les fondateurs essaient de nombreuses mesures pour amasser les puces, notamment en faisant appel aux faveurs d’amis chez de grands fournisseurs d’équipements qui pourraient avoir des GPU à revendre, et en naviguant dans un obscur programme du gouvernement américain appelé Access.
Au moins une entreprise, l’investisseur mondial Index Ventures, a eu une idée supplémentaire, a-t-il déclaré au point de vente. Pour s’assurer que les sociétés de son portefeuille ne soient pas paralysées par la pénurie, elle a conclu un accord avec Oracle pour fournir à ses fondateurs certaines de ces puces recherchées (en particulier les puces H100 de Nvidia et les puces A100 de Nvidia).
Pour en savoir plus sur l’arrangement – que d’autres sociétés de capital-risque essaient sans aucun doute de reproduire – nous avons parlé plus tôt dans la journée avec Erin Price-Wright, un partenaire basé dans la région de la Baie avec Index qui se concentre sur les logiciels d’entreprise et l’IA et qui, avant de rejoindre l’entreprise cabinet en 2019, était à la tête de pproduit pour la plate-forme d’analyse de données et d’apprentissage automatique de Palantir. Des extraits de notre chat ont été légèrement modifiés pour plus de longueur et de clarté ci-dessous ; vous pouvez entendre notre conversation plus longue ici.
TechCrunch : Parlez-nous de ce partenariat avec Oracle.
Erin Price-Wright : L’accès au calcul est l’un des plus grands défis auxquels sont confrontées les entreprises d’IA, et il est particulièrement difficile pour une entreprise en démarrage de mettre la main sur les GPU. C’est moins une question de coût en particulier mais le fait que quelque chose comme plus de 95% de la capacité du GPU est déjà allouée aux grands acteurs de cet espace [because] ils prennent ces engagements préalables assez importants avec les fournisseurs de cloud. Donc, si vous êtes une entreprise en démarrage et que vous essayez simplement de commencer à vous entraîner ou à peaufiner le modèle, il y a généralement un très long délai entre le moment où les GPU sont même disponibles. Cela peut prendre de trois mois à un an dans certains cas et il est vraiment difficile de commencer.
Si vous êtes une entreprise en phase de démarrage qui cherche encore à déterminer quel est votre produit, vous ne savez même pas de combien de GPU vous avez besoin. Ainsi, même ce processus de découverte consistant à comprendre à quoi ressembleront vos charges de travail peut être très difficile pour les entreprises en démarrage. Nous nous associons donc à Oracle pour fournir des GPU à nos premières sociétés de portefeuille, car nous voulons aider à supprimer cette barrière d’accès afin qu’elles puissent vraiment se concentrer sur ce qui compte dès le jour zéro. En fin de compte, l’objectif est d’aider toutes ces entreprises à devenir leur propre cluster. Nous ne sommes pas là pour fournir ces énormes grappes de GPU à nos entreprises. . .mais nous voulons vraiment leur donner une longueur d’avance, afin qu’ils puissent commencer à construire plus rapidement afin d’uniformiser les règles du jeu.
Comment l’accord s’est-il conclu ?
Nous voulions nous assurer que les personnes qui construisent contre des problèmes commerciaux très concrets n’aient pas l’impression qu’elles devaient changer leur modèle commercial ou changer la façon dont elles se représentaient ou changeaient la façon dont elles collectaient des fonds afin d’avoir simplement accès aux GPU. . Donc, c’est vraiment né de voir ce modèle encore et encore avec des entreprises en démarrage où nous nous disions: «C’est là qu’Index en tant que fonds a en fait un effet de levier réel. Et nous pouvons utiliser notre position sur le marché, nos relations et le fait que nous pouvons en quelque sorte regrouper cette demande dans plusieurs entreprises pour vraiment fournir des services à valeur ajoutée. [to our founders].
Index a-t-il versé un acompte ou a-t-il acheté directement des puces à Oracle ? Donnez-vous à Oracle une participation dans ces startups ?
Nous n’achetons pas de jetons directement. Ainsi, le partenariat avec Oracle est qu’Index prend l’engagement préalable au nom de nos startups et paie la facture du cloud. Oracle gère le cluster – ils ont été un partenaire fantastique – et nos entreprises ont ensuite accès gratuitement à ce cluster GPU.
Alors tu payes [this cloud bill] à l’avance. Avez-vous dû en parler avec vos propres investisseurs? Ce n’est pas typique de ce que [a venture firm] ferait historiquement.
En ce qui concerne la structure réelle du fonctionnement de l’accord, je vais probablement m’abstenir de partager trop de détails.
Est-ce une relation exclusive ? Y a-t-il quelque chose qui empêche d’autres entreprises de capital-risque de faire la même chose ?
Ouais, bien sûr [they could do the same]il n’y a certainement pas [an exclusive relationship with Index].
L’un des avantages qu’Oracle en retire est de rencontrer la prochaine génération d’entreprises fantastiques le plus tôt possible. Dans le processus d’utilisation de notre cluster GPU, nous aidons activement nos entreprises à naviguer dans le processus de signature de leur propre contrat de cloud dédié. L’idée n’est donc pas qu’ils [do] ceci à perpétuité; c’est à eux de développer des relations avec Oracle et AWS et les autres grands fournisseurs de cloud et de signer leur propre contrat dédié.
L’une de vos sociétés de portefeuille, Cohere, compte Oracle parmi ses bailleurs de fonds avec Nvidia, qui sont deux des sociétés que vous souhaitez le plus impliquer dans les sociétés de votre portefeuille en ce moment.
L’une des façons dont nous pouvons vraiment aider les sociétés de notre portefeuille est de nous assurer qu’elles sont mises en contact avec les bonnes personnes au bon moment, afin qu’elles obtiennent les ressources dont elles ont besoin.
L’indice compte au moins 20 sociétés en portefeuille qui entrent dans la catégorie IA/ML, y compris Cohere [which has already raised $445 million] et une autre société qui a récemment levé un énorme tour de table, Mistral AI en France. Trop d’argent est-il largement investi dans l’IA générative ou en sommes-nous encore aux « premières manches », comme les VC aiment à le dire ?
Nous sommes dans les premières manches. Je pense que nous entrons rapidement dans une période de refroidissement en termes de sentiment, en particulier pour certains de ces très gros tours et en particulier de la part des VC traditionnels. Il y a encore un très grand écart entre la promesse et la puissance des modèles de base de la technologie et ce qu’il faudra pour qu’ils soient réellement utilisés et utiles dans de nombreux cas d’utilisation dans l’entreprise. Il manque juste un énorme déficit d’infrastructure qui doit être comblé, et il ne le sera pas du jour au lendemain; ça va prendre du temps.
Au cours des 12 prochains mois, bien que je sois toujours très enthousiasmé par la puissance de la technologie de base et à quel point elle va être transformationnelle pour le monde, je pense que nous allons voir un peu de recul alors que les entreprises luttent vraiment avec cela, déterminez le retour sur investissement, hiérarchisez en quelque sorte les cas d’utilisation et commencez à créer de vraies choses au-delà peut-être des un ou deux prototypes d’applications de démonstration sur lesquels ils travaillent depuis six mois. C’est à ce moment-là que nous allons commencer à voir émerger l’infrastructure qui va commencer à prendre en charge ces cas d’utilisation à grande échelle.
En tant qu’investisseur, comment vous assurez-vous que vos entreprises d’IA ne se chevauchent pas ? Et est-ce plus difficile ou plus difficile que lorsqu’il s’agit de startups traditionnelles ?
Je ne pense pas que ce soit très différent de la façon dont nous envisageons la concurrence ailleurs. Tout le monde décrit l’IA comme cette catégorie autonome. Mais si j’anticipe même deux ans, sans parler de cinq ou 10 ans, chaque logiciel que nous utilisons aura l’IA comme cœur battant. Il n’y aura aucun morceau de code, aucun logiciel, aucune application, aucun site Web que vous visiterez, qui n’ait l’IA comme élément central. J’y pense presque comme du SaaS. Toutes les entreprises SaaS sont-elles identiques ? Non. Chaque entreprise SaaS a une base de données, chaque entreprise SaaS a un front-end, chaque entreprise SaaS a une certaine interaction entre les deux. L’IA est un peu similaire à une base de données à cet égard. C’est juste une sorte de bloc de construction de base dans la façon dont vous construisez un logiciel.
Nous sommes très tôt sur le marché, il va donc y avoir du mouvement et des changements au fur et à mesure que les entreprises découvrent comment utiliser ces outils et quels problèmes spécifiques s’attaquer. Mais ce n’est pas différent de la façon dont nous pensons à l’investissement SaaS traditionnel de mon point de vue.