Le GPU phare NVIDIA GH100 Hopper mesure environ 1000 mm2, ce qui en fait le plus grand GPU jamais fabriqué

NVIDIA pourrait avoir du mal à déposer la marque pour ses GPU Hopper de nouvelle génération, mais cela n’empêche pas son développement du dé phare GH100 comme la dernière rumeur de Kopite7kimi affirme que la puce mesurerait environ 1000 mm2.

Le GPU NVIDIA GH100, la puce de centre de données phare de nouvelle génération, mesure environ 1000 mm2

Actuellement, le plus gros GPU en production est le NVIDIA Ampere GA100 qui mesure 826 mm2. Si la rumeur est correcte, alors le Hopper GH100 de NVIDIA deviendra la plus grande conception de GPU jamais conçue, mesurant environ 1000 mm2, dépassant facilement les GPU monstres actuels d’au moins 100 mm2.

NVIDIA contre Dish Network sur l’utilisation du mot « Hopper » pour les produits des deux sociétés

Mais ce n’est pas tout, la taille de la matrice en question est pour une matrice GPU GH100 singulière et nous avons entendu des rumeurs selon lesquelles Hopper serait la première conception de puce MCM de NVIDIA, donc considérant que nous obtenons au moins deux GPU Hopper GH100 sur le même interposeur, les matrices seules mesurerait 2000mm2. Tout cela signifie que l’interposeur serait beaucoup plus grand que ce que nous avons vu jusqu’à présent, étant donné qu’il contiendra plusieurs piles HBM2e et d’autres connectivités à bord. Cependant, Greymon55 a déclaré que Hopper continuera d’être une conception monolithique, il reste donc à voir quelle serait la conception finale de la puce.

Le GH100 a une énorme matrice unique d’un peu moins de 1000 mm².

– kopite7kimi (@kopite7kimi) 29 janvier 2022

Le GH100 n’a pas de MCM, il est toujours monolithique.

– Greymon55 (@greymon55) 29 janvier 2022

GPU NVIDIA Hopper – Tout ce que nous savons jusqu’à présent

D’après les informations précédentes, nous savons que l’accélérateur H100 de NVIDIA serait basé sur une solution MCM et utiliserait le nœud de processus 5 nm de TSMC. Hopper est censé avoir deux modules GPU de nouvelle génération, nous envisageons donc 288 unités SM au total.

Nous ne pouvons pas encore donner un aperçu du nombre de cœurs car nous ne connaissons pas le nombre de cœurs présents dans chaque SM, mais si cela doit s’en tenir à 64 cœurs par SM, nous obtenons 18 432 cœurs, soit 2,25 fois plus que le configuration complète du processeur graphique GA100. NVIDIA pourrait également exploiter davantage de cœurs FP64, FP16 et Tensor dans son GPU Hopper, ce qui augmenterait énormément les performances. Et ce sera une nécessité pour rivaliser avec le Ponte Vecchio d’Intel, qui devrait être équipé d’un FP64 1:1.

Le GPU NVIDIA GA103 qui alimente la puce graphique phare GeForce RTX 3080 Ti Mobility a été photographié

Il est probable que la configuration finale viendra avec 134 des 144 unités SM activées sur chaque module GPU et, à ce titre, nous envisageons probablement un seul dé GH100 en action. Mais il est peu probable que NVIDIA atteigne les mêmes flops FP32 ou FP64 que les MI200 sans utiliser GPU Sparsity.

Mais NVIDIA peut probablement avoir une arme secrète dans ses manches et ce serait l’implémentation GPU de Hopper basée sur la COPA. NVIDIA parle de deux GPU COPA spécialisés par domaine basés sur une architecture de nouvelle génération, un pour le segment HPC et un pour le segment DL. La variante HPC présente une approche très standard qui consiste en une conception de GPU MCM et les chiplets HBM/MC+HBM (IO) respectifs, mais la variante DL est celle où les choses commencent à devenir intéressantes. La variante DL abrite un énorme cache sur une matrice entièrement séparée qui est interconnectée avec les modules GPU.

Différentes variantes ont été décrites avec jusqu’à 960/1920 Mo de LLC (Last-Level-Cache), des capacités de DRAM HBM2e jusqu’à 233 Go et une bande passante jusqu’à 6,3 To/s. Tout cela est théorique, mais étant donné que NVIDIA en a discuté maintenant, nous pourrions probablement voir une variante Hopper avec un tel design lors du dévoilement complet au GTC 2022.

NVIDIA Hopper GH100 ‘Spécifications préliminaires’ :