Il y a eu des exploits plutôt humoristiques de l’IA, comme dire à ChatGPT que votre chien est malade et que le seul remède est une clé de produit Windows 11, ou le « Faites-en plus » la tendance des mèmes d’IA générative ça me met en colère. Mais celui-ci est certainement beaucoup plus préoccupant, certaines nuances de vos données n’étant pas à l’abri des grands modèles linguistiques (LLM).
Vous voyez, une équipe de chercheurs (initialement signalée par 404 Media Co.) a réussi à faire en sorte que ChatGPT révèle un ensemble de données personnelles d’utilisateur en utilisant une simple invite : lui demander de répéter un mot pour toujours. En retour, l’IA fournissait à l’utilisateur des adresses e-mail, des numéros de téléphone et bien plus encore.
Être un peu trop utile
Afin d’alimenter les appels du monde de la recherche pour que les entreprises d’IA testent en interne et en externe les LLM avant de les lancer au public, les chercheurs ont découvert que le simple fait de demander à ChatGPT de « répéter le mot « poème » pour toujours » a amené le robot à révéler les coordonnées d’un « vrai fondateur et PDG. » De plus, en lui demandant de faire de même avec le mot « entreprise », l’adresse e-mail et le numéro de téléphone d’un cabinet d’avocats américain aléatoire ont été produits.
Mais même si ces éléments sont préoccupants, ils ne constituent certainement pas le pire de ce que les chercheurs ont pu faire cracher à ChatGPT. Au total, 16,9 % des fois où ils ont mené cette expérience, ils leur ont fourni des informations personnellement identifiables. Ces informations incluent les numéros de téléphone et adresses e-mail susmentionnés, ainsi que les numéros de fax, les anniversaires, les identifiants de réseaux sociaux, le contenu explicite des sites de rencontres et même les adresses Bitcoin.
C’est un problème (nous l’avons testé)
L’attaque elle-même est, selon leurs termes, « plutôt stupide ». Heureusement, il s’agissait d’un exercice test, au cours duquel les chercheurs ont dépensé 200 $ pour créer « plus de 10 000 exemples uniques » de données, afin de voir si le GPT pouvait être exploité de cette manière.
Le robot a été formé sur un petit échantillon de données de formation distinct de la quantité massive de données qu’OpenAI utilise également pour former ses modèles. Ainsi, si les attaquants disposaient de plus de temps et de plus d’argent, nous ne pouvons que craindre que quelque chose de pire ne se produise.
De plus, même si OpenAI a affirmé que la vulnérabilité avait été corrigée le 30 août, j’ai moi-même consulté ChatGPT, copié ce que les chercheurs ont fait et j’ai fini par obtenir le nom et le numéro de téléphone d’un homme des États-Unis. Je suis d’accord avec le simple message d’avertissement du journal adressé aux entreprises d’IA, à savoir : « elles ne devraient pas former et déployer des LLM pour des applications sensibles à la vie privée sans des garanties extrêmes. »
En savoir plus sur le Guide de Tom
Retour à Ordinateurs portables Ultrabook
