Si vous aimez le Mandalorien et ChatGPT, cela pourrait être l’occasion pour vous. OpenAI a lancé un défi ouvert pour trouver des bogues dans ChatGPT, via son programme Bug Bounty avec jusqu’à 20 000 $ de récompense pour les plus grandes découvertes. Traquer les bogues et gagner de l’argent? Ceci est le chemin.
ChatGPT a eu sa juste part de problèmes, mais il s’améliore tout le temps, et maintenant OpenAI a demandé à « la communauté mondiale des chercheurs en sécurité, des pirates éthiques et des passionnés de technologie » de le pousser à la limite et, espérons-le, de découvrir toutes les vulnérabilités dans le processus.
Après tout, si les chatbots tels que ChatGPT et Google Bard vont être aussi gros que certains le pensent, alors ils devront être fiables et étanches.
Alors que seules les plus grandes découvertes possibles vous rapporteront 20 000 $, tout risque de sécurité plus petit que vous repérerez pourrait toujours rapporter une récompense comprise entre 200 $ et 6 500 $ par vulnérabilité.
Quels types de bogues sont éligibles ?
Sur le Foule d’insectes page du programme, OpenAI a détaillé le type de trouvailles qu’il juge dignes d’une récompense financière, et malheureusement, le simple fait de faire dire à l’IA quelque chose de stupide ne compte pas.
OpenAI a explicitement déclaré que «faire en sorte que le modèle vous dise de mauvaises choses» et «faire en sorte que le modèle vous dise comment faire de mauvaises choses» et répondre aux questions interdites à travers les goûts de DAN ne vaudra pas de récompense.
La société a également déclaré que : « L’accès intentionnel à des données ou des informations ne vous appartenant pas au-delà du minimum nécessaire pour démontrer la vulnérabilité ». et d’autres méthodes qui ont un impact sur l’expérience utilisateur de masse sont également hors limites.
Pour des raisons de sécurité, seuls les bogues signalés par les propres comptes des utilisateurs seront valides, mais il y a beaucoup à faire pour les esprits curieux. Avec OpenAI indiquant que « ChatGPT est dans le champ d’application, y compris ChatGPT Plus, les connexions, les abonnements, les plugins créés par OpenAI (par exemple, la navigation, l’interpréteur de code), les plugins que vous créez vous-même et toutes les autres fonctionnalités ». L’API Open AI est également une cible valable ainsi que le propre site Web de l’entreprise et le terrain de jeu des développeurs.
Si les chatbots doivent changer notre façon d’utiliser Internet, ils devront pouvoir survivre à l’ingéniosité des utilisateurs déterminés à le casser. Êtes-vous prêts à relever le défi?