Meta (née Facebook) a annoncé qu’elle construisait sa propre IA supercalculateur à l’appui de ses efforts pour amener métaverse à fructifier.
Le AI Research SuperCluster (RSC) est déjà opérationnel à capacité réduite. Mais une fois terminé, Meta affirme que le RSC sera le supercalculateur le plus rapide au monde en son genre.
La nouvelle machine sera utilisée pour entraîner une nouvelle reconnaissance vocale massive, traitement du langage et des modèles de vision par ordinateur, qui sous-tendront la prochaine génération d’applications basées sur l’IA de l’entreprise.
Le RSC entièrement formé sera alimenté par 16 000 GPU Nvidia A100, rassemblés dans des nœuds de calcul et connectés à l’aide de la dernière structure d’interconnexion InfiniBand.
Meta s’associe également à PureStorage, dont les technologies hautes performances FlashBlade et FlashArray aideront à créer un système de stockage pour le RSC capable d’héberger jusqu’à un exaoctet de données (égal à un million de To).
Les premiers benchmarks montrent que le RSC tel qu’il existe aujourd’hui est capable de surpasser d’environ 20 fois l’infrastructure d’IA de la génération précédente de Meta sur certaines charges de travail, un chiffre qui augmentera évidemment une fois la construction terminée plus tard cette année.
Les méta-chercheurs utilisent déjà le RSC pour former des modèles de traitement du langage naturel (TAL) et de vision par ordinateur à grande échelle beaucoup plus rapidement qu’auparavant. Et à l’avenir, la société espère former des modèles avec plus d’un billion de paramètres, qui continueront à jouer un rôle dans son portefeuille de produits métavers.
« Nous nous attendons à ce qu’un tel changement de fonction par étape dans la capacité de calcul nous permette non seulement de créer des modèles d’IA plus précis pour nos services existants, mais également de permettre des expériences utilisateur complètement nouvelles, en particulier dans le métaverse », a écrit Meta.
« Nos investissements à long terme dans l’apprentissage auto-supervisé et dans la construction d’une infrastructure d’IA de nouvelle génération avec RSC contribuent à créer les technologies fondamentales qui alimenteront le métaverse et feront également progresser la communauté de l’IA au sens large. »
Bien que l’entreprise n’ait fourni aucun détail sur ce à quoi pourraient ressembler ces nouvelles expériences de métaverse, un sentiment similaire a été réitéré dans un message Facebook par le PDG Mark Zuckerberg.
« Les expériences que nous construisons pour le métaverse nécessitent une énorme puissance de calcul (quintillions d’opérations/seconde) et RSC permettra de nouveaux modèles d’IA capables d’apprendre à partir de milliards d’exemples, de comprendre des centaines de langues et plus encore », a-t-il déclaré.