La réponse d’IBM au supercalculateur rentable est déjà opérationnelle depuis plusieurs mois maintenant, mais ce n’est que récemment qu’elle a divulgué des informations tangibles sur son soi-disant projet Vela.
Se tourner vers son blog (s’ouvre dans un nouvel onglet) pour discuter des détails, IBM a révélé que la recherche, rédigée par cinq employés de l’entreprise, s’attaque aux problèmes des supercalculateurs précédents et à leur manque de préparation pour les tâches d’IA.
Afin de peaufiner le modèle de supercalculateur pour ce futur type de charge de travail, l’entreprise met en lumière les décisions qu’elle a prises en termes d’utilisation de matériel abordable mais puissant.
Le supercalculateur Vela AI d’IBM
L’ouvrage souligne que « construire une [traditional] supercalculateur a signifié des nœuds en métal nu, du matériel réseau haute performance… des systèmes de fichiers parallèles et d’autres éléments généralement associés au calcul haute performance (HPC).
S’il est clair que ces supercalculateurs peuvent gérer de lourdes charges de travail d’IA, y compris celle conçue pour OpenAI, la startup derrière le populaire logiciel de chat en direct ChatGPT, un manque d’optimisation signifie que les supercalculateurs traditionnels pourraient manquer de puissance précieuse et avoir un excès dans d’autres domaines entraînant des dépenses inutiles.
Bien qu’il soit depuis longtemps admis que les nœuds en métal nu sont les plus idéaux pour l’IA, IBM voulait explorer la possibilité de les proposer à l’intérieur d’une machine virtuelle (VM). Le résultat, selon Big Blue, est d’énormes gains de performances.
« Après une quantité importante de recherches et de découvertes, nous avons conçu un moyen d’exposer toutes les capacités du nœud (GPU, CPU, réseau et stockage) dans la machine virtuelle afin que la surcharge de virtualisation soit inférieure à 5 %, ce qui est le frais généraux les plus bas de l’industrie à notre connaissance.
En termes de conception de nœud, Vela est doté de 80 Go ou de mémoire GPU, de 1,5 To de DRAM et de quatre disques de stockage NVMe de 3,2 To.
La prochaine plateforme (s’ouvre dans un nouvel onglet) estime que, si IBM voulait faire figurer son supercalculateur dans le classement Top500, il délivrerait environ 27,9 pétaflops de performances, le plaçant à la 15e place selon le classement de novembre 2022.
Alors que les supercalculateurs d’aujourd’hui sont actuellement capables de gérer les charges de travail de l’IA, les énormes développements de l’intelligence artificielle combinés au besoin pressant de rentabilité mettent en évidence la nécessité d’une telle machine.