Une nouvelle version personnalisée d’un LLM (Large Language Model) fait le tour, mais pour les pires raisons possibles. WormGPT, comme il a été baptisé par son créateur, est un nouvel outil conversationnel – basé sur le modèle de langage GPT-J publié en 2021 – qui a été formé et développé dans le seul but d’écrire et de déployer du codage et des outils de chapeau noir. La promesse est qu’il permettra à ses utilisateurs de développer des logiciels malveillants de premier plan à une fraction du coût (et des connaissances) qui étaient auparavant nécessaires. L’outil a été testé par l’équipe de cybersécurité SlashNext, qui a averti dans un article de blog que « des acteurs malveillants créent maintenant leurs propres modules personnalisés similaires à ChatGPT, mais plus faciles à utiliser à des fins néfastes ». Le service peut être obtenu pour un mois « approprié ». abonnement : 60 euros par mois, soit 550 euros par an Tout le monde, même les hackers, aime le Software as a Service, semble-t-il.
Selon le développeur WormGPT, « Ce projet vise à fournir une alternative à ChatGPT, qui vous permet de faire toutes sortes de choses illégales et de les vendre facilement en ligne à l’avenir. Tout ce qui concerne le blackhat auquel vous pouvez penser peut être fait avec WormGPT, permettant à quiconque d’accéder à des activités malveillantes sans jamais quitter le confort de sa maison.
La démocratisation, c’est bien beau, mais peut-être n’est-elle pas à son meilleur lorsqu’elle se réfère à la prolifération et à l’autonomisation d’acteurs mal intentionnés.
Selon les captures d’écran publiées par le créateur, WormGPT fonctionne essentiellement comme une version non protégée de ChatGPT – mais qui n’essaiera pas de bloquer activement les conversations au moindre risque. WormGPT peut apparemment produire des logiciels malveillants écrits en Python et fournira des conseils, des stratégies et des solutions aux problèmes liés au déploiement du logiciel malveillant.
L’analyse de SlashNext sur l’outil était troublante. Après avoir demandé à l’agent de générer un e-mail destiné à faire pression sur une victime pour qu’elle paie une facture frauduleuse, les résultats ont été troublants : WormGPT a produit un e-mail qui était non seulement remarquablement persuasif mais aussi stratégiquement rusé, mettant en valeur son potentiel de phishing sophistiqué et de BEC. [Business Email Compromise] attaques. »
Ce n’était qu’une question de temps avant que quelqu’un prenne toutes les bonnes choses d’avoir des modèles d’intelligence artificielle (IA) open source et les renverse. C’est une chose de développer des prises de vue humoristiques et vantardes sur un assistant d’IA de type chat (en vous regardant, BratGPT). C’est une autre chose que de développer un modèle conversationnel qui a été formé sur les langages spécifiques et les obfuscations du Dark Web. Mais transformer les compétences de programmation de renommée mondiale de ChatGPT et les appliquer uniquement au développement de logiciels malveillants écrits par l’IA en est une autre.
Bien sûr, il serait également théoriquement possible que WormGPT soit un véritable pot de miel et de former un agent d’IA comme celui-ci pour créer des logiciels malveillants fonctionnels. qui se fait toujours prendre et s’assure d’identifier son expéditeur. Nous ne disons pas que c’est ce qui se passe avec WormGPT, mais c’est possible. Donc, quiconque l’utilise devrait vérifier son code, une ligne à la fois.
Dans le cas de ces agents d’IA développés en privé, il est important de noter que peu (le cas échéant) montreront des capacités générales parallèlement à ce que nous attendons du ChatGPT d’OpenAI. Bien que les techniques et les outils se soient considérablement améliorés, la formation d’un agent d’IA sans financement (et données) approprié reste une entreprise coûteuse et chronophage. Mais c’est un fait qu’à mesure que les entreprises se précipitent vers la ruée vers l’or de l’IA, les coûts continueront de chuter, les ensembles de données et les méthodes de formation s’amélioreront, et des agents d’IA privés de plus en plus compétents tels que WormGPT et BratGPT continueront de faire surface.
WormGPT est peut-être le premier système de ce type à être reconnu par le grand public, mais ce ne sera certainement pas le dernier.