Un détaillant japonais a commencé à prendre des précommandes sur l’accélérateur de calcul Hopper H100 80 Go de nouvelle génération de Nvidia pour l’intelligence artificielle et les applications informatiques hautes performances. La carte sera disponible dans les prochains mois et il semble qu’elle sera considérablement plus chère que le GPU de calcul Ampère A100 80 Go de génération actuelle de Nvidia.
GDep Advance, un détaillant spécialisé dans les systèmes HPC et de stations de travail, a récemment commencé à prendre des précommandes pour la carte de calcul Nvidia H100 80GB AI et HPC PCI 5.0 avec refroidissement passif pour les serveurs. La planche coûte 4 745 950 ￥ (36 405 $), ce qui comprend un prix de base de 4 313 000 ￥ (32 955 $), une taxe à la consommation de 431 300 ￥ (3308 $) et des frais de livraison de 1 650 ¥ (13 $), selon la société (via Hermitage Akihabara). La planche sera expédiée dans la seconde moitié de l’année, bien que nous ne sachions pas exactement quand cela se produira.
L’accélérateur de calcul H100 PCIe 5.0 de Nvidia embarque le dernier GPU de calcul GH100 de la société avec 7296/14592 cœurs FP64/FP32 (voir les spécifications exactes ci-dessous) qui promet de fournir des performances allant jusqu’à 24 FP64 TFLOPS, 48 FP32 TFLOPS, 800 FP16 TFLOPS et 1,6 INT8 HAUTS. La carte embarque 80 Go de mémoire HBM2E avec une interface 5120 bits offrant une bande passante d’environ 2 To/s et dispose de connecteurs NVLink (jusqu’à 600 Go/s) qui permettent de construire des systèmes avec jusqu’à huit GPU H100. La carte est conçue pour une puissance de conception thermique (TDP) de 350 W.
Étant au moins deux fois plus rapide que son prédécesseur A100 basé sur l’architecture Ampere, le H100 de Nvidia doté de l’architecture Hopper semble également être considérablement plus cher. Aujourd’hui, une carte Nvidia A100 80 Go peut être achetée pour 13 224 $, tandis qu’une carte Nvidia A100 40 Go peut coûter jusqu’à 27 113 $ chez CDW. Il y a environ un an, une carte PCIe A100 40 Go était au prix de 15 849 $ ~ 27 113 $ selon le revendeur exact. En revanche, une carte H100 80 Go prévue pour le second semestre devrait coûter environ 33 000 $ (au moins au Japon).
Nous ne savons pas si Nvidia prévoit d’augmenter le prix catalogue de ses cartes PCIe H100 par rapport aux cartes A100, car les clients obtiennent des performances au moins deux fois supérieures à une puissance inférieure. En attendant, nous savons que Nvidia expédiera initialement ses systèmes DGX H100 et DGX SuperPod contenant les versions SXM5 des GPU GH100 ainsi que les cartes SXM5 aux fournisseurs HPC comme Atos, Boxx, Dell, HP et Lenovo.
Plus tard, la société commencera à expédier ses cartes PCIe H100 aux fournisseurs HPC et ce n’est qu’alors que ces cartes PCIe H100 seront disponibles pour les petits intégrateurs de systèmes AI/HPC ainsi que pour les revendeurs à valeur ajoutée. Toutes ces entreprises sont naturellement plus intéressées à expédier des systèmes complets avec H100 à l’intérieur plutôt que de vendre uniquement des cartes. Par conséquent, il est possible qu’au départ, les cartes PCIe H100 soient trop chères en raison de la forte demande, de la disponibilité limitée et de l’appétit des détaillants.
