Bien avant que Washington n’interdise les exportations d’unités de traitement graphique hautes performances de Nvidia vers la Chine, les géants technologiques du pays les conservaient en prévision d’une guerre technologique croissante entre les deux nations.
Baidu, l’une des entreprises technologiques qui construisent les homologues chinois d’OpenAI, a obtenu suffisamment de puces d’IA pour continuer à former son équivalent ChatGPT, Ernie Bot, pendant « un an ou deux », a déclaré le PDG de l’entreprise, Robin Li, lors d’une conférence téléphonique cette semaine.
« En outre, l’inférence nécessite des puces moins puissantes, et nous pensons que nos réserves de puces, ainsi que d’autres alternatives, seront suffisantes pour prendre en charge de nombreuses applications natives d’IA pour les utilisateurs finaux », a-t-il déclaré. « Et à long terme, les difficultés rencontrées pour acquérir les puces les plus avancées ont inévitablement un impact sur le rythme du développement de l’IA en Chine. Nous recherchons donc de manière proactive des alternatives.
D’autres entreprises technologiques chinoises aux poches bien garnies ont également pris des mesures proactives en réponse aux contrôles américains sur les exportations. Baidu, ByteDance, Tencent et Alibaba ont commandé collectivement environ 100 000 unités de processeurs A800 Nvidia qui seront livrées cette année, ce qui leur a coûté jusqu’à 4 milliards de dollars, a rapporté le Financial Times en août. Ils ont également acheté pour 1 milliard de dollars de GPU dont la livraison est prévue en 2024.
Des investissements initiaux aussi lourds pourraient facilement dissuader de nombreuses startups de se lancer dans la course au LLM. Des exceptions existent si la jeune entreprise parvient rapidement à obtenir de beaux investissements. 01.AI, fondée fin mars par l’investisseur de premier plan Kai-Fu Lee, a acquis un nombre important de puces d’inférence hautes performances grâce à des prêts et a déjà remboursé sa dette après avoir levé des capitaux qui l’ont valorisée à 1 milliard de dollars.
Avec sa réserve de GPU, Baidu a récemment lancé l’Ernie Bot 4, qui, selon Li, n’est « en aucun cas inférieur au GPT-4 ».
L’évaluation des LLM est délicate en raison de la complexité de ces modèles d’IA. De nombreuses entreprises chinoises d’IA ont eu recours à l’amélioration du classement en remplissant avec diligence les critères des graphiques LLM, mais l’efficacité de ces modèles lorsqu’ils sont appliqués à des applications réelles dans la vie réelle reste à juger.
Les petits acteurs de l’IA, manquant de liquidités pour accumuler des puces, devront se contenter de processeurs moins puissants qui ne sont pas soumis aux contrôles américains à l’exportation. Alternativement, ils peuvent attendre des opportunités d’acquisition potentielles. Li s’attend à ce qu’avec une confluence de facteurs, notamment la rareté des puces avancées, la forte demande de données et de talents en IA et d’énormes investissements initiaux, l’industrie passera bientôt à une « phase de consolidation ».