Les employés de Samsung ont involontairement divulgué des données top secrètes tout en utilisant ChatGPT pour les aider dans leurs tâches.
La société a permis aux ingénieurs de sa branche semi-conducteurs d’utiliser l’écrivain AI pour aider à résoudre les problèmes liés à leur code source. Mais ce faisant, les travailleurs ont saisi des données confidentielles, telles que le code source lui-même d’un nouveau programme, des notes de réunion internes, des données relatives à leur matériel.
Le résultat est qu’en un peu moins d’un mois, trois cas d’employés ont divulgué des informations sensibles via ChatGPT. Étant donné que ChatGPT conserve les données d’entrée des utilisateurs pour se former davantage, ces secrets commerciaux de Samsung sont désormais entre les mains d’OpenAI, la société à l’origine du service d’IA.
Dehors dans l’OpenAI
En réponse, Samsung Semiconductor développe actuellement sa propre IA interne pour une utilisation interne par les employés, mais ils ne peuvent utiliser que des invites dont la taille est limitée à 1024 octets.
Dans l’un des cas susmentionnés, un employé a demandé à ChatGPT d’optimiser les séquences de test pour identifier les défauts des puces, ce qui est confidentiel – cependant, rendre ce processus aussi efficace que possible a le potentiel de faire gagner un temps considérable aux entreprises de puces dans les tests et la vérification des processeurs, ce qui conduit à des réductions de coûts aussi.
Dans un autre cas, un employé a utilisé ChatGPT pour convertir des notes de réunion en une présentation, dont le contenu n’était évidemment pas quelque chose que Samsung aurait aimé que des tiers externes connaissent.
Samsung Electronics a envoyé un avertissement à ses employés sur les dangers potentiels de fuite d’informations confidentielles à la suite des incidents, affirmant que ces données sont impossibles à récupérer car elles sont désormais stockées sur les serveurs appartenant à OpenAI. Dans l’industrie des semi-conducteurs, où la concurrence est féroce, toute sorte de fuite de données pourrait être catastrophique pour l’entreprise en question.
Il ne semble pas que Samsung ait un recours pour demander la récupération ou la suppression des données sensibles qu’OpenAI détient désormais. Certains ont fait valoir (s’ouvre dans un nouvel onglet) que ce fait même rend ChatGPT non conforme au RGPD de l’UE, car il s’agit de l’un des principaux locataires de la loi régissant la manière dont les entreprises collectent et utilisent les données. C’est également l’une des raisons pour lesquelles l’Italie a désormais interdit l’utilisation de ChatGPT dans tout le pays. (s’ouvre dans un nouvel onglet).