À mesure que le buzz autour de ChatGPT et d’autres IA génératives augmente, l’intérêt des escrocs pour la technologie augmente également. Dans un nouveau rapport publié par Meta, la société affirme avoir constaté une forte augmentation des logiciels malveillants déguisés en ChatGPT et autres logiciels d’IA similaires.
Dans un communiqué, la société a déclaré que depuis mars 2023 seulement, ses chercheurs ont découvert « dix familles de logiciels malveillants utilisant ChatGPT et d’autres thèmes similaires pour compromettre des comptes sur Internet » et qu’elle a bloqué plus de 1 000 liens malveillants de sa plateforme. Selon Meta, les escroqueries impliquent souvent des applications mobiles ou des extensions de navigateur se faisant passer pour des outils ChatGPT. Et bien que dans certains cas, les outils offrent certaines fonctionnalités ChatGPT, leur véritable objectif est de voler les identifiants de compte de leurs utilisateurs.
Lors d’un appel avec des journalistes, le directeur de la sécurité de Meta, Guy Rosen, a déclaré que les escrocs à l’origine de ces exploits profitaient du regain d’intérêt pour l’IA générative. « En tant qu’industrie, nous avons vu cela sur d’autres sujets qui sont populaires à leur époque, tels que les escroqueries cryptographiques alimentées par l’immense intérêt pour la monnaie numérique », a déclaré Rosen. « Donc, du point de vue d’un mauvais acteur, ChatGPT est le nouveau crypto. »
Meta a noté que les personnes qui gèrent des entreprises sur Facebook ou qui utilisent autrement la plate-forme pour le travail ont été des cibles particulières. Les escrocs s’attaquent souvent aux comptes personnels des utilisateurs afin d’accéder à une page commerciale ou à un compte publicitaire connecté, qui sont plus susceptibles d’avoir une carte de crédit liée.
Pour lutter contre cela, Meta a annoncé son intention d’introduire un nouveau type de compte pour les entreprises appelé comptes « Meta Work ». Ces comptes permettront aux utilisateurs d’accéder aux outils Business Manager de Facebook sans compte Facebook personnel. « Cela contribuera à renforcer la sécurité des comptes professionnels dans les cas où les attaquants commenceront par compromettre un compte personnel », a déclaré la société dans un communiqué. Meta a déclaré qu’il commencera un test « limité » des nouveaux comptes de travail cette année et qu’il l’étendra « au fil du temps ».
De plus, Meta déploie un nouvel outil qui aidera les entreprises à détecter et à supprimer les logiciels malveillants. L’outil « guide les utilisateurs étape par étape sur la manière d’identifier et de supprimer les logiciels malveillants, y compris à l’aide d’outils antivirus tiers » pour aider à empêcher les entreprises de perdre à plusieurs reprises l’accès aux comptes.
Les chercheurs de Meta ne sont pas les premiers à mettre en garde contre les faux outils ChatGPT conduisant à des comptes piratés. Récemment, des chercheurs ont mis en garde contre une extension Chrome se faisant passer pour un logiciel ChatGPT qui a conduit au piratage d’un certain nombre de comptes Facebook. L’exploit, rapporté par Ordinateur qui bipe, est devenu connu sous le nom de piratage « Lily Collins » parce que les noms sur les comptes des victimes ont été changés en « Lilly Collins ».
Lors d’un appel avec des journalistes, le responsable de la politique de sécurité de Meta, Nathaniel Gliecher, a déclaré que ces attaques visaient également souvent des personnes liées à des entreprises. « Ce qu’ils voudront faire, c’est fermer ce compte personnel pour brûler leur accès et empêcher l’utilisateur légitime de revenir », a-t-il déclaré. « L’une des tactiques que nous voyons maintenant consiste à prendre le compte personnel et à le renommer pour qu’il porte le nom d’une célébrité de premier plan dans l’espoir que le compte soit supprimé. » Il a ajouté que les nouveaux comptes de travail aideraient à prévenir des piratages similaires à l’avenir.