Alors que le domaine de l’intelligence artificielle évolue à une vitesse vertigineuse, les escrocs ont désormais accès à des outils qui peuvent les aider à exécuter en masse des attaques très sophistiquées, prévient le co-fondateur de la société de sécurité Web3 Quantstamp.
S’adressant à Cointelegraph lors de la Korea Blockchain Week, Richard Ma de Quantstamp a expliqué que même si les attaques d’ingénierie sociale existent depuis un certain temps, l’IA aide les pirates à devenir « beaucoup plus convaincants » et à augmenter le taux de réussite de leurs attaques.
Pour illustrer à quoi ressemble la nouvelle génération d’attaques basées sur l’IA, Ma a rappelé ce qui est arrivé à l’un des clients de Quantstamp, où un attaquant s’est fait passer pour le directeur technologique de l’entreprise ciblée.
« Il a commencé à envoyer des messages à l’un des autres ingénieurs de l’entreprise, en lui disant ‘hé, nous avons cette urgence, voici ce qui se passe’ et à les engager dans de nombreuses conversations avant de leur demander quoi que ce soit », a déclaré Ma.
Apparemment, il y a une augmentation des escroqueries ciblées sur des personnes, plutôt que de simplement jouer à un jeu de chiffres… Grâce à l’IA et à ChatGPT, les escrocs peuvent écrire du code rapidement, et les nouvelles technologies signifient qu’il est plus rentable pour les attaquants jusqu’à ce qu’un logiciel soit créé pour riposter.
Les personnes âgées sont les cibles– MoistenedTart.blsky.social (@MoistenedTart) 31 août 2023
Ma a déclaré que ces étapes supplémentaires ajoutent une couche de complexité aux attaques, ce qui rend beaucoup plus probable la possibilité que quelqu’un transmette des informations importantes.
« Avant l’IA, [scammers] pourrait simplement vous demander une carte-cadeau ou leur payer du Bitcoin car c’est une urgence. Désormais, ils effectuent bien plus d’étapes supplémentaires dans la conversation préalable pour établir la légitimité.
En fin de compte, Ma a déclaré que la menace la plus existentielle introduite par l’IA sophistiquée est l’échelle à laquelle ces types d’attaques peuvent être exécutés.
En tirant parti des systèmes d’IA automatisés, les attaquants pourraient lancer des attaques d’ingénierie sociale et d’autres escroqueries avancées dans des milliers d’organisations différentes avec très peu d’implication humaine.
Comment les escroqueries AI Chat et ChatGPT affectent-elles les marchés ?
Découvrez-le auprès des animateurs de The Market Report, Sam Bourgi (@forgeforth_) et Marcel Pechman (@noshitcoins) sur notre dernier épisode : https://t.co/wrfGQC0aO4 pic.twitter.com/kHH6hcisd9
– Cointelegraph (@Cointelegraph) 27 février 2023
« En crypto, il existe de nombreuses bases de données avec toutes les coordonnées des personnes clés de chaque projet. Une fois que les pirates y ont accès, ils peuvent disposer d’une IA qui envoie des messages à toutes ces personnes de différentes manières », a-t-il déclaré.
« Il est assez difficile de former l’ensemble de votre entreprise pour qu’elle soit capable de ne pas réagir à ces choses-là. »
Même si l’ampleur et la complexité des escroqueries basées sur l’IA peuvent sembler intimidantes, Ma a donné quelques conseils simples aux individus et aux organisations qui cherchent à se protéger.
En rapport: Les escroqueries crypto vont s’intensifier avec la montée en puissance de l’IA
La mesure de protection la plus importante consiste à éviter d’envoyer des informations sensibles par e-mail ou par SMS. Ma a déclaré que les organisations devraient s’efforcer de localiser toutes les communications de données importantes vers Slack ou d’autres canaux internes.
« En règle générale, respectez le canal de communication interne de l’entreprise et vérifiez tout. »
Enfin, Ma a déclaré que les entreprises devraient investir dans un logiciel anti-phishing qui filtre les e-mails automatisés des robots et de l’IA. Il a déclaré que Quantstamp utilise un logiciel anti-phishing d’une société appelée IronScales, qui propose des services de sécurité par courrier électronique.
« Nous ne sommes qu’au début de cette course aux armements, et il va devenir de plus en plus difficile de faire la distinction entre les humains et une IA convaincante. »
Oeil IA : Apple développe une IA de poche, un faux accord musical et un GPT-4 hypnotisant