Rappelez-vous il y a quelque temps, lorsque le PDG d’OpenAI, Sam Altman, a déclaré que l’utilisation abusive de l’intelligence artificielle pourrait être « la lumière éteinte pour tous? » (s’ouvre dans un nouvel onglet) Eh bien, ce n’était pas une déclaration si déraisonnable étant donné que les pirates vendent maintenant des outils pour contourner les restrictions de ChatGPT afin de générer du contenu malveillant.
Point de contrôle (s’ouvre dans un nouvel onglet) rapports (via Ars Technica (s’ouvre dans un nouvel onglet)) que les cybercriminels ont trouvé un moyen assez simple de contourner les barrières de modération de contenu ChatGPT et de gagner rapidement de l’argent en le faisant. Pour moins de 6 $, vous pouvez demander à ChatGPT de générer du code malveillant ou une tonne de copie convaincante pour les e-mails de phishing.
Ces pirates l’ont fait en utilisant l’API d’OpenAI pour créer des robots spéciaux dans l’application de messagerie populaire, Telegram, qui peuvent accéder à une version sans restriction de ChatGPT via l’application. Les cybercriminels facturent aux clients aussi peu que 5,50 $ pour 100 requêtes et donnent aux clients potentiels des exemples des choses nuisibles qui peuvent être faites avec.
D’autres pirates ont trouvé un moyen de contourner les protections de ChatGPT en créant un script spécial (en utilisant à nouveau l’API d’OpenAI) qui a été rendu public sur GitHub. Cette version sombre de ChatGPT peut générer un modèle d’e-mail de phishing pour se faire passer pour une entreprise et votre banque, même avec des instructions sur l’endroit où placer au mieux le lien de phishing dans l’e-mail.
Encore plus effrayant, vous pouvez utiliser le Chatbot pour créer un code malveillant ou en améliorer un existant en le lui demandant simplement. Checkpoint avait déjà écrit (s’ouvre dans un nouvel onglet) à quel point il est facile pour ceux qui n’ont aucune expérience de codage de générer des logiciels malveillants assez méchants, en particulier sur les premières versions de ChatGPT, dont les restrictions ne sont devenues plus strictes pour la création de contenu malveillant.
La technologie ChatGPT d’OpenAI sera présentée dans la prochaine mise à jour du moteur de recherche Microsoft Bing, qui comportera un chat IA pour fournir des réponses plus robustes et faciles à digérer à des questions plus ouvertes. Cela aussi s’accompagne de son propre ensemble de problèmes concernant l’utilisation de documents protégés par le droit d’auteur. (s’ouvre dans un nouvel onglet).
Nous avons déjà écrit à quel point il était facile d’abuser d’outils d’intelligence artificielle comme l’utilisation du clonage de voix pour faire dire des choses horribles aux célébrités. (s’ouvre dans un nouvel onglet). Donc, ce n’était qu’une question de temps avant que certains mauvais acteurs trouvent un moyen de faciliter les mauvaises choses. Vous savez, en plus de faire faire ses devoirs à l’IA (s’ouvre dans un nouvel onglet).