Dans son Rapport sur la transparence de l’IA responsable, qui couvre principalement 2023, Microsoft vante ses réalisations en matière de déploiement en toute sécurité de produits d’IA. Le rapport annuel sur la transparence de l’IA est l’un des engagements pris par l’entreprise après la signature d’un accord volontaire avec la Maison Blanche en juillet de l’année dernière. Microsoft et d’autres sociétés ont promis de mettre en place des systèmes d’IA responsables et de s’engager en faveur de la sécurité.
Microsoft indique dans le rapport avoir créé 30 outils d’IA responsable au cours de l’année écoulée, renforcé son équipe d’IA responsable et demandé aux équipes créant des applications d’IA générative de mesurer et de cartographier les risques tout au long du cycle de développement. La société note qu’elle a ajouté des informations d’identification de contenu à ses plates-formes de génération d’images, qui mettent un filigrane sur une photo, la étiquetant comme réalisée par un modèle d’IA.
La société affirme avoir donné aux clients Azure AI l’accès à des outils qui détectent les contenus problématiques tels que les discours de haine, les contenus à caractère sexuel et l’automutilation, ainsi qu’à des outils permettant d’évaluer les risques de sécurité. Cela inclut de nouvelles méthodes de détection de jailbreak, qui ont été étendues en mars de cette année pour inclure des injections indirectes d’invites où les instructions malveillantes font partie des données ingérées par le modèle d’IA.
Il étend également son équipe rouge efforts, y compris à la fois les équipes rouges internes qui tentent délibérément de contourner les fonctionnalités de sécurité de ses modèles d’IA, ainsi que les applications d’équipe rouge pour permettre des tests tiers avant de publier de nouveaux modèles.
Cependant, ses unités rouges ont du pain sur la planche. Les déploiements d’IA de l’entreprise n’ont pas été à l’abri de controverses.
Natasha Crampton, responsable de l’IA chez Microsoft, déclare dans un e-mail envoyé à Le bord que l’entreprise comprend que l’IA est toujours un travail en cours, tout comme l’IA responsable.
« L’IA responsable n’a pas de ligne d’arrivée, c’est pourquoi nous ne considérerons jamais que notre travail dans le cadre des engagements volontaires en matière d’IA est terminé. Mais nous avons fait de grands progrès depuis leur signature et nous sommes impatients de poursuivre sur notre lancée cette année », a déclaré Crampton.