Nvidia a annoncé sa nouvelle superpuce Grace Hopper, et sa mémoire massive est suffisante pour faire pleurer toute la série RTX 40. De plus, il en regroupe huit dans ce que Jensen Huang appelle « un GPU géant » avec le DGX GH200, un super serveur absolument méga pour accélérer l’IA.
La superpuce est livrée avec 576 Go de mémoire GPU, dont 96 Go de mémoire HBM3 et 480 Go de LPDDR5. Considérant même les 24 Go de GDDR6X sur le RTX 4090, cela fait une comparaison frappante avec ce à quoi nous sommes habitués au pays GeForce.
Huang dit que la superpuce contient « pratiquement tout l’ordinateur », y compris 72 processeurs ARM, et que Nvidia en attrape huit pour les insérer dans le DGX GH200 – un bon couple de racks de serveurs AI.
Le DGX GH200 est grand, au propre comme au figuré. Nous envisageons 150 miles de câbles à fibres optiques et 2 000 ventilateurs capables de recycler 70 000 pieds cubes d’air par minute. « Il peut probablement recycler l’air de toute cette pièce en quelques minutes », déclare Huang.
Et à 40 000 livres de poids, le DGX GH200 est « quatre éléphants, un GPU ». En d’autres termes, vous n’allez pas en intégrer un dans votre étude. Mais je suppose que cela fait partie de la beauté de l’accélération basée sur le cloud – vous n’êtes pas obligé de le faire.
Non pas que nous puissions nous en offrir un de toute façon, compte tenu du prix que ce monstre est susceptible d’être. Nvidia n’a pas confirmé le prix auquel nous pouvons nous attendre, mais je parierais qu’il est époustouflant.
Entre les huit puces Grace Hopper du DGX GH200 se trouvent 900 Go/s de liaisons puce à puce à partir des commutateurs NVLink. Une fois combiné, cela le place tout à fait dans la région d’un exaflop en puissance de calcul.
Et bien sûr, entre quelques stand-up sporadiques en mandarin, Jensen flatte les joueurs dans le public avec « Je me demande si cela pourrait jouer à Crysis ? Seuls les joueurs comprendront cette blague. »
Bien sûr, Nvidia ne s’éloigne pas du jeu, malgré nos réflexions autour d’un récent appel à revenus, mais il est clair que l’avenir se concentre sur l’IA. Considérant que Nvidia vient d’annoncer ACE for Games, un ensemble d’outils d’IA qui permet aux développeurs de créer des PNJ qui peuvent vous répondre en temps réel. Nvidia a déjà confirmé que le système fonctionnera sur Nvidia DGX Cloud mais pourrait également fonctionner sur un vieux GPU classique.