Apple a interdit aux employés d’utiliser des outils d’IA tels que ChatGPT d’OpenAI, craignant que des informations confidentielles entrées dans ces systèmes ne soient divulguées ou collectées.
Selon un rapport de Le journal de Wall Streetles employés d’Apple ont également été mis en garde contre l’utilisation de l’assistant de programmation IA de GitHub, Copilot. Bloomberg journaliste Mark Gurman tweeté que ChatGPT figurait sur la liste des logiciels restreints d’Apple « depuis des mois ».
Apple a de bonnes raisons de se méfier. Par défaut, OpenAI stocke toutes les interactions entre les utilisateurs et ChatGPT. Ces conversations sont collectées pour former les systèmes d’OpenAI et peuvent être inspectées par des modérateurs pour avoir enfreint les conditions et les services de l’entreprise.
En avril, OpenAI a lancé une fonctionnalité qui permet aux utilisateurs de désactiver l’historique des discussions (par coïncidence, peu de temps après que divers pays de l’UE ont commencé à enquêter sur l’outil pour détecter d’éventuelles violations de la vie privée), mais même avec ce paramètre activé, OpenAI conserve toujours les conversations pendant 30 jours avec l’option pour les examiner « pour abus » avant de les supprimer définitivement.
Compte tenu de l’utilité de ChatGPT pour des tâches telles que l’amélioration du code et des idées de brainstorming, Apple peut craindre à juste titre que ses employés saisissent des informations sur des projets confidentiels dans le système. Ces informations pourraient alors être vues par l’un des modérateurs d’OpenAI. La recherche montre qu’il est également possible de extraire des données d’entraînement de certains modèles de langage en utilisant son interface de chat, bien qu’il n’y ait aucune preuve que ChatGPT lui-même soit vulnérable à de telles attaques.
L’interdiction d’Apple, cependant, est notable étant donné qu’OpenAI a lancé cette semaine une application iOS pour ChatGPT. L’application est gratuite, prend en charge la saisie vocale et est disponible aux États-Unis. OpenAI annonce qu’il lancera bientôt l’application dans d’autres pays, ainsi qu’une version Android.