Le H100 de Nvidia, le GPU de pointe conçu pour les systèmes d’IA, a été repéré sur eBay pour plus de 40 000 $.
Au moins huit des cartes étaient cotées entre 39 995 $ et un peu moins de 46 000 $, bien que certains vendeurs l’aient proposé pour aussi peu que 36 000 $.
Le H100 est le successeur de l’entreprise à l’A100, réputé pour alimenter des modèles d’IA populaires tels que ChatGPT, car ils constituent une partie essentielle de l’infrastructure de cloud computing qui forme Microsoft Azure, où est hébergé le célèbre écrivain d’IA.
Coûts croissants
L’escalade des prix a été stimulée par l’énorme regain d’intérêt pour l’IA, déclenché par le succès retentissant de ChatGPT d’OpenAI. Pour la perspective, l’A100 précédent est évalué à environ 10 000 $.
Alors que de plus en plus d’entreprises cherchent à développer leurs propres systèmes d’IA avancés, elles ont besoin de la puissance offerte par le H100 pour répondre à leurs besoins. Des téraoctets de données sont nécessaires pour former et développer de grands modèles de langage comme ChatGPT, et des centaines de ces GPU doivent fonctionner en tandem et fonctionner pendant des jours, voire des semaines.
Microsoft a été un investisseur clé dans OpenAI et a dépensé des millions (s’ouvre dans un nouvel onglet) obtenir suffisamment d’A100 pour créer ChatGPT. Et Nvidia lui-même offre l’accès à son propre supercalculateur DGX pour 37 000 $ par mois, qui fonctionne sur les A100.
Par la suite, le H100 est la première puce spécialement conçue pour l’architecture informatique utilisée dans les applications d’IA avancées, qui, espère-t-il, inaugurera une nouvelle ère de systèmes d’IA encore plus puissants et performants.
Compte tenu des coûts énormes impliqués dans le développement de l’IA, il n’est pas étonnant que Microsoft souhaite voir des retours sur son investissement important, car il a récemment intégré la technologie de pointe dans bon nombre de ses services. Couplé à la chute des revenus qu’il a constatée dans son secteur Windows OS autrefois phare, l’argent ne peut pas arriver assez vite.
- Pour des performances puissantes plus réalistes, jetez un coup d’œil à nos meilleures stations de travail