SK Hynix a annoncé avoir développé les premières piles de mémoire HBM3 de 24 Go à 12 couches du secteur qui offrent à la fois une haute densité et une bande passante extrême de 819 Go/s. Les produits 12-Hi HBM3 conservent la même hauteur que les produits HBM3 à 8 couches existants de la société, ce qui signifie qu’ils sont faciles à déployer.
Le produit KGSD (known good stack die) HBM3 de SK Hynix de 24 Go place douze dispositifs de mémoire de 16 Go connectés à l’aide de vias en silicium (TSV) sur une couche de base avec une interface de 1024 bits. L’appareil dispose d’une vitesse de transfert de données de 6400 MT/s et donc l’ensemble du module HBM3 de 24 Go offre une bande passante de 819,2 Go/s.
Selon le sous-système de mémoire réel, ces modules peuvent activer 3,2 To/s à 4,915 To/s de bande passante pour 96 Go de mémoire sur une interface 4096 bits ou 144 Go de mémoire sur une interface 6140 bits, respectivement. Pour mettre les chiffres en contexte, le NVL H100 de Nvidia – l’implémentation HBM3 la plus avancée à ce jour – dispose de 96 Go de mémoire avec 3,9 To/s de bande passante pour chacun de ses deux GPU de calcul GH100.
L’empilement de 12 couches de DRAM HBM les unes sur les autres est un défi pour plusieurs raisons. Premièrement, il est difficile de percer quelque 60 000 trous TSV ou plus à travers le boîtier pour connecter les douze couches. Deuxièmement, les packages DRAM 12-Hi HBM ne peuvent pas être physiquement supérieurs aux KGSD 8-Hi HBM (généralement, 700 – 800 microns, 720 microns dans le cas de Samsung), il sera donc extrêmement compliqué (si possible du tout) d’installer un tel HBM3 KGSD à côté d’un CPU ou d’un GPU qui ont une hauteur fixe. À cette fin, les fabricants de DRAM comme SK Hynix doivent soit réduire l’épaisseur d’une couche DRAM individuelle sans sacrifier les rendements ou les performances (ce qui pose de nombreux défis), soit réduire l’écart entre les couches et rétrécir la couche de base.
SK Hynix dit que pour construire son produit 12-Hi HBM3 avec la même hauteur que son appareil 8Hi HBM3, il a utilisé sa technologie d’encapsulation Advanced Mass Reflow Molded Underfill (MR-MUF) qui implique une fixation de puce par refusion de masse (MR) pour rétrécir le processus de couche de base et de sous-remplissage moulé (MUF) pour réduire l’espacement entre les matrices.
SK Hynix a livré des échantillons de son produit HBM3 de 24 Go à plusieurs clients impatients. Le produit est actuellement en cours d’évaluation des performances et devrait entrer en production de masse au second semestre.