ChatGPT (s’ouvre dans un nouvel onglet) peut faire beaucoup de choses, et on se demande quelle est réellement la limite de ses capacités. Maintenant, un YouTuber a des preuves vidéo du chatbot créant des clés d’activation Windows 95 à partir de rien. Ce qui est parfait pour toutes ces copies sans licence de Windows 95 qui traînent encore.
D’après YouTuber Enderman (s’ouvre dans un nouvel onglet), le mécanisme de validation de Windows 95 est assez simple, c’est pourquoi ils l’ont préféré à des systèmes plus complexes comme Windows XP. Cependant, ChatGPT est déjà conçu pour ne pas faciliter le piratage et ne générera pas de clé d’activation Windows 95 si vous le demandez directement. Non pas que cela puisse vous empêcher d’obtenir une clé du bot.
Mais en raison de la simplicité de la validation de Windows 95 et du fait que les clés d’activation suivaient toutes le même format de base, la nouvelle approche d’Enderman consistait à essayer de faire en sorte que ChatGPT réponde à tous les bons critères. Cela signifiait offrir une description détaillée du format de la clé d’activation de Windows 95 et tenter de faire en sorte que le bot génère 30 fac-similés.
Cela a pris plusieurs tentatives, et il semblait que ChatGPT avait du mal à comprendre des critères aussi stricts et (apparemment) complexes – en particulier les parties qui impliquaient les mathématiques. L’un des nombres d’une clé Windows 95 doit être divisible par 7, mais malheureusement ChatGPT ne semble pas savoir ce qu’est la divisibilité – il ne peut pas non plus compter la somme de ses chiffres.
Parler à Gizmodo (s’ouvre dans un nouvel onglet)Enderman suppose que ChatGPT sait faire des calculs, mais se perdait pendant la phase de génération de lots.
ChatGPT a beaucoup à offrir si vous savez quoi demander
Finalement, Enderman a réussi à faire en sorte que ChatGPT produise un résultat incluant des clés d’activation d’apparence valide. Et après avoir testé l’une de ces clés, Enderman a pu installer Windows 95.
Enderman a noté que GPT-3 avait du mal à comprendre ses contraintes et produirait par conséquent moins de clés utilisables. Apparemment, les tests avec GPT-4 se sont avérés plus fructueux, mais l’IA n’a pas toujours produit des résultats parfaits. Malheureusement, cela a encore pris du temps.
Lorsque le YouTuber a remercié le bot d’avoir fourni des clés Windows 95 gratuites, il a exprimé sa confusion et a répété qu’il était incapable de générer des clés Windows 95. Non pas que la plupart des gens aient beaucoup besoin d’un système d’exploitation vieux de près de trois décennies. Et, comme l’a noté Enderman, les systèmes d’exploitation modernes comportent des processus de validation beaucoup plus compliqués.
Mais cela montre qu’il existe des moyens de contourner les blocages de ChatGPT sur des types de contenu spécifiques, et ce n’est pas le premier exemple que nous ayons vu. Nous savons déjà comment faire en sorte que ChatGPT réponde à n’importe quelle question, même si elle a été interdite, et une version « diabolique » piratée du bot nommé Dan n’a pas de telles restrictions de contenu. ChatGPT a même été amené à écrire des logiciels malveillants par certains types néfastes.
La solution de contournement d’Enderman ne restera probablement pas disponible longtemps, et OpenAI est susceptible de corriger cet exploit à un moment donné dans un proche avenir. Non pas que la série compliquée d’instructions qu’il a proposées puisse être considérée comme une « solution de contournement ».