Ampere positionne officiellement ses processeurs Altra principalement pour les charges de travail cloud, mais Gigabyte a décidé que ces composants avec jusqu’à 128 cœurs sont assez bons pour les serveurs de calcul basés sur GPU pour les applications d’intelligence artificielle (IA) et de calcul haute performance (HPC). Cette semaine, la société a officiellement déployé son serveur G492-PD0 qui combine un processeur basé sur Arm et un GPU de calcul intensif.
Le serveur G492-PD0 de Gigabyte est livré avec un processeur Ampere Altra Max (128 cœurs Arm v8.2) ou Altra (80 cœurs Arm v8.2) ainsi que jusqu’à huit GPU de calcul Nvidia A100 80 Go SXM4 interconnectés entre eux à l’aide du bus NVLink de Nvidia à 600 Go/s. Le système peut être équipé d’un maximum de 4 To de mémoire DDR4-3200 utilisant 16 modules, quatre disques SSD M.2, six SSD U.2 et dix cartes d’extension PCIe à profil bas. L’ensemble de la machine est alimenté par trois alimentations 3000W 80+ Platinum (+ une PSU supplémentaire pour la redondance).
La machine 4U de Gigabyte exploite pleinement la plate-forme HGX de Nvidia, de sorte qu’elle exploite pleinement non seulement NVLink avec NVSwitches pour les GPU, mais également le GPUDirect RDMA de la société verte pour l’échange direct de données entre les GPU et les appareils tiers tels que les SSD et les cartes réseau.
Auparavant, Gigabyte proposait des serveurs basés sur GPU Nvidia A100 avec jusqu’à deux processeurs AMD EPYC 7003 à 64 cœurs ou Intel Xeon Scalable ‘Ice Lake’ à 40 cœurs. Ces machines ont tendance à être chères étant donné qu’AMD et Intel facturent beaucoup pour leurs offres phares pour les serveurs très demandés. Avec un système basé sur l’Altra/Altra Max d’Ampere, Gigabyte peut proposer des prix légèrement inférieurs. Pendant ce temps, le serveur G492-PD0 de Gigabyte a moins de voies PCIe et des performances potentiellement inférieures dans certaines charges de travail, mais les organisations qui achètent des serveurs GPU ont tendance à faire des recherches avant d’acheter de nouvelles machines pour s’assurer qu’elles répondent à leurs besoins.
Il y a une autre raison pour laquelle Gigabyte a besoin de ce serveur : Gigabyte et les utilisateurs de ses serveurs AI et HPC ont besoin d’acquérir de l’expérience avec les processeurs basés sur Arm dans le contexte d’applications HPC alimentées par GPU avant que Nvidia ne lance ses plates-formes alimentées par son processeur Grace et son calcul H100. GPU l’année prochaine. L’utilisation de processeurs Ampere Altra et Altra Max avec jusqu’à 128 cœurs a beaucoup de sens pour Gigabyte car les machines sont basées sur Arm et ont beaucoup de cœurs.
Il convient de noter que les plates-formes basées sur Altra/Altra Max d’Ampere en général et la machine G492-PD0 de Gigabyte en particulier ont été certifiées par Arm pour son programme SystemReady pour un déploiement facile des serveurs basés sur Arm. Le programme Arm SystemReady propose un ensemble officiel de définitions de plate-forme couvrant des machines allant de l’IoT et des serveurs de périphérie jusqu’aux machines cloud.