De nouvelles recherches menées par un groupe de chercheurs affiliés à Stanford ont révélé que les outils d’IA générant du code tels que Github Copilot peuvent présenter plus de risques de sécurité que de nombreux utilisateurs ne le pensent.
L’étude s’est penchée spécifiquement sur Codex, un produit d’OpenAI, dont Elon Musk est l’un des co-fondateurs.
Codex alimente la plate-forme GitHub Copilot, propriété de Microsoft, qui est conçue pour rendre le codage plus facile et plus accessible en traduisant le langage naturel en code et en suggérant des modifications basées sur des preuves contextuelles.
Problèmes de codage AI
Le co-auteur principal de l’étude, Neil Perry, explique que « les systèmes de génération de code ne remplacent pas actuellement les développeurs humains ».
L’étude a demandé à 47 développeurs de capacités différentes d’utiliser Codex pour des problèmes liés à la sécurité, en utilisant les langages de programmation Python, JavaScript et C. Il a conclu que les participants qui s’appuyaient sur Codex étaient plus susceptibles d’écrire du code non sécurisé par rapport à un groupe témoin.
Perry a expliqué : « Les développeurs utilisant [coding tools] pour accomplir des tâches en dehors de leurs propres domaines d’expertise devraient être concernés, et ceux qui les utilisent pour accélérer des tâches pour lesquelles ils sont déjà compétents devraient soigneusement revérifier les résultats et le contexte dans lequel ils sont utilisés dans l’ensemble du projet.
Ce n’est pas la première fois que les outils de codage alimentés par l’IA font l’objet d’un examen minutieux. En fait, l’une des solutions de GitHub pour améliorer la qualité du code dans Copilot a vu la société appartenant à Microsoft faire face à des poursuites judiciaires pour ne pas avoir attribué le travail d’autres développeurs. Le résultat a été un procès de 9 milliards de dollars pour 3,6 millions de violations individuelles de l’article 1202.
Pour l’instant, les outils de génération de code alimentés par l’IA sont mieux considérés comme un coup de main qui peut accélérer la programmation plutôt qu’un remplacement total, mais si le développement au cours des dernières années est quelque chose à passer, ils pourraient bientôt remplacer codage traditionnel.
Via TechCrunch (s’ouvre dans un nouvel onglet)