Le vice-président d’IBM et directeur de la technologie d’IBM Automation, Jerry Cuomo, a récemment publié un article de blog exposant ce qu’il prétend être plusieurs risques associés à l’utilisation de ChatGPT pour les entreprises.
Selon le billet de blog, il existe plusieurs domaines de risque clés que les entreprises devraient prendre en compte avant d’exploiter ChatGPT. En fin de compte, cependant, Cuomo conclut que seules les données non sensibles sont en sécurité avec ChatGPT :
« Une fois que vos données entrent dans ChatGPT », écrit Cuomo, « vous n’avez aucun contrôle ni aucune connaissance de la façon dont elles sont utilisées ».
Selon la publication, ce type de fuite de données involontaire pourrait également mettre les entreprises en cause, légalement parlant, si les données d’un partenaire, d’un client ou d’un client sont exposées au grand public après avoir été divulguées dans les données de formation de ChatGPT.
Cuomo cite en outre les risques pour la propriété intellectuelle et la possibilité que des fuites puissent mettre les entreprises en violation des accords open source.
Selon le billet de blog d’IBM :
« Si des informations sensibles de tiers ou internes à l’entreprise sont saisies dans ChatGPT, elles font partie du modèle de données du chatbot et peuvent être partagées avec d’autres personnes qui posent des questions pertinentes. »
Cointelegraph a contacté OpenAI pour commenter la déclaration ci-dessus. Nous avons reçu la réponse suivante d’un intermédiaire en relations publiques par e-mail : « les données ne seront pas partagées avec d’autres personnes qui posent des questions pertinentes ».
Le représentant nous a également référé à existant documentation sur les fonctionnalités de confidentialité de ChatGPT, y compris un article de blog détaillant la possibilité pour les internautes de désactiver leur historique de chat.
L’API ChatGPT a le partage de données désactivé par défaut, selon OpenAI.
La politique de l’API est parfaitement claire – ce qui est déroutant, c’est la politique concernant les conversations que nous avons en utilisant l’interface Web ChatGPT et les applications iOS/Android
—Simon Willison (@simonw) 15 août 2023
Les critiques ont cependant souligné que les conversations sur la version Web sont enregistrées par défaut. Les utilisateurs doivent également désactiver à la fois l’enregistrement de leurs conversations – une fonctionnalité pratique pour reprendre là où ils se sont arrêtés – et l’utilisation de leurs données pour former le modèle. Il n’y a, à l’heure actuelle, aucune option pour conserver les conversations sans accepter de partager des données.
En relation: Le développeur IBM Watson lève 60 millions de dollars pour la startup AI Elemental Cognition