Intel a présenté son prochain processeur Meteor Lake au salon Computex (via PC World) et le gros bruit avec la nouvelle puce est l’accélération de l’IA. Plus précisément, Meteor Lake est livré avec un nouveau VPU ou « Versatile Processing Unit » qui est apparemment assez puissant pour exécuter Stable Diffusion localement plutôt que dans le cloud.
Le VPU est essentiellement un accélérateur d’inférence dédié inclus dans Meteor Lake en tant que tuile distincte et conçu pour les tâches d’IA telles que la vision par ordinateur et l’apprentissage en profondeur.
L’IA connaît évidemment une croissance explosive en ce moment, mais les goûts de ChatGPT, Midjourney et DALL-E 2 ont jusqu’à présent fonctionné dans le cloud grâce à d’énormes modèles de formation. Il est difficile de voir la pertinence d’un petit accélérateur matériel d’IA basé sur le client, n’est-ce pas ?
En fait, Intel voit un rôle pour un certain niveau d’accélération locale de l’IA sur les PC. Intel affirme que les coûts énormes du déploiement d’applications d’IA comme ChatGPT à des millions et des millions peuvent être réduits en plaçant une partie de cette charge de traitement sur les PC clients.
Intel estime également que l’accélération locale de l’IA permet une mise à l’échelle distribuée massive, une meilleure confidentialité pour les utilisateurs en gardant les données locales et une latence plus faible car le traitement de l’IA se produit réellement sur votre appareil.
Théoriquement, cela a du sens. Mais on ne sait pas comment cela se traduira par des applications dans le monde réel. Certes, pour l’instant, il existe un moyen de décharger n’importe quelle partie du traitement de ChatGPT sur des appareils locaux et nous n’avons entendu parler d’aucun plan d’OpenAI pour faire quoi que ce soit à distance comme ça.
Cependant, Intel a présenté une version du générateur d’images Stable Diffusion fonctionnant entièrement localement sur un ordinateur portable alimenté par Meteor Lake qui n’était pas connecté à Internet. Traditionnellement, vous voudriez utiliser un GPU puissant pour exécuter Stable Diffusion localement, le générateur d’images nécessitant beaucoup de silicium pour restituer rapidement une image.
Une invite pour un « astronaute à cheval sur la lune » a été entrée et bien sûr, le système a craché une image de cela en utilisant simplement la puce à l’intérieur d’un ordinateur portable Meteor Lake.
Exactement comment cela se faisait et quelle fraction d’un modèle de diffusion stable plus grand s’exécutait localement n’est pas clair, et la démo soulève vraiment plus de questions qu’elle n’en résout, bien que l’augmentation de la charge sur le VPU dans le Gestionnaire des tâches puisse être vue.
Il est intéressant de noter que le VPU porte la marque « Intel Movidius VPU » dans le gestionnaire de tâches. Movidius est un fabricant de puces acquis par Intel en 2016 qui se spécialise dans la vision par ordinateur et jusqu’à présent, la puce AI d’Intel semble être très biaisée dans cette direction.
Cette démo Stable Diffusion mise à part, Intel affirme que le VPU peut être utilisé pour le remplacement en temps réel de l’arrière-plan et le flou dans les appels vidéo et la réduction du bruit, des tâches qui s’exécutent actuellement sur les cœurs CPU et GPU. L’utilisation d’un moteur d’IA dédié fera ce travail beaucoup plus efficacement. Intel semble impliquer que le VPU de Meteor Lake pourrait également accélérer certains aspects de la nouvelle fonctionnalité Co-Pilot de Microsoft.
Une autre question qui découle de tout cela est de savoir comment le VPU d’Intel se compare au nouveau moteur d’IA de l’APU Phoenix d’AMD, qui apparaît maintenant dans les ordinateurs portables et les appareils de jeu portables comme l’Asus RoG Ally, et si les deux moteurs d’IA seront compatibles avec les logiciels. . Tout est très nouveau et, comme je l’ai dit, nous avons des questions.
Intel a également confirmé que Meteor Lake serait réservé aux ordinateurs portables au début, mais il n’était pas prêt à parler de modèles de processeur spécifiques ou de dates de lancement précises. Nous nous attendions à ce que Meteor Lake soit lancé plus tard en 2023, mais à ce stade, ce sera très tard dans l’année s’il respecte ce délai.