NVIDIA vient de publier une version démo gratuite d’un chatbot qui s’exécute localement sur votre PC. C’est plutôt intéressant, car cela permet au chatbot d’accéder à vos fichiers et documents. Vous pouvez alimenter Chat with RTX avec une sélection de données personnelles et lui demander de créer des résumés basés sur ces informations. Vous pouvez également lui poser des questions, comme n’importe quel chatbot, et plonger dans vos données pour trouver des réponses.
La société affirme qu’elle permet aux utilisateurs de « connecter rapidement et facilement des fichiers locaux sur un PC en tant qu’ensemble de données à un grand modèle de langage open source comme Mistral ou Llama 2 ». NVIDIA donne l’exemple d’un utilisateur interrogeant le chatbot sur un restaurant recommandé par son partenaire à Las Vegas. Le logiciel analyse les fichiers locaux pour trouver la réponse. Il prend en charge de nombreux formats de fichiers, notamment .txt, .pdf, .doc/.docx et .xml. La société affirme qu’elle chargera les fichiers pertinents dans son ensemble de données « en quelques secondes ».
Le chat avec RTX intègre également des vidéos et des listes de lecture YouTube. Vous pouvez ajouter une URL vidéo dans l’ensemble de données et elle intégrera les connaissances contenues dans le clip pour les requêtes contextuelles. NVIDIA affirme que cela sera utile pour demander des recommandations de voyage « basées sur le contenu des vidéos d’influenceurs préférés » ou pour rechercher des didacticiels et des résumés dérivés de ressources éducatives.
Le bord a eu du temps pratique avec le chatbot et en est reparti impressionné, écrivant qu’ils pouvaient le voir comme « un élément précieux de la recherche de données pour les journalistes ou toute personne ayant besoin d’analyser une collection de documents ».
Cela ressemble à un grand pas vers quelque chose qui ressemble à un véritable assistant numérique qui fonctionne dans le cadre contextuel de vos données personnelles. Avec la plupart des chatbots, les données sont envoyées vers le cloud, mais Chat with RTX « permet aux utilisateurs de traiter des données sensibles sur un PC local sans avoir besoin de les partager avec un tiers ou de disposer d’une connexion Internet ». Donc c’est plus sûr et plus conscient du contexte.
Il existe certaines limites. Il s’agit d’un produit de démonstration, vous devez donc vous attendre à de nombreux bugs, même si NVIDIA devrait commencer à les éliminer une fois que les utilisateurs commenceront à émettre des rapports d’erreur, etc. Il existe également ici des limitations matérielles strictes. Chat avec RTX ne fonctionne que sur les PC Windows équipés de GPU NVIDIA GeForce RTX série 30 ou supérieur et d’au moins 8 Go de VRAM.
NVIDIA a vraiment montré ses prouesses en matière d’IA ces derniers temps, alors que la société vient de lancer sa nouvelle génération de puces de supercalculateurs d’intelligence artificielle. Les bénéfices sont absolument florissants, principalement grâce aux segments de l’IA et des centres de données de l’entreprise.
Cet article contient des liens d’affiliation ; si vous cliquez sur un tel lien et effectuez un achat, nous pouvons gagner une commission.