Microsoft a licencié toute son équipe éthique et société au sein de son IA (s’ouvre dans un nouvel onglet) division, dans le cadre des 10 000 licenciements plus larges dans l’ensemble de l’entreprise.
Le géant de la technologie se retrouve désormais sans une équipe qui s’assure que la conception des produits d’IA s’aligne sur les valeurs d’une IA responsable, à ce moment-là, le géant de Redmond mobilise la technologie dans chacun de ses produits et services (s’ouvre dans un nouvel onglet) concevable.
Il existe toujours un Office for Responsible AI (ORA), que la société revendique (s’ouvre dans un nouvel onglet) « met les principes de Microsoft en pratique en établissant les règles à l’échelle de l’entreprise pour une IA responsable grâce à la mise en œuvre de notre travail de gouvernance et de politique publique. »
Conflit interne
Microsoft affirme également que malgré l’élimination de l’équipe, les investissements pour s’assurer que l’IA est développée de manière responsable augmentent en fait.
« Au cours des six dernières années, nous avons augmenté le nombre de personnes dans nos équipes de produits et au sein du Bureau de l’IA responsable. Nous apprécions le travail de pionnier que l’équipe d’éthique et de société a fait pour nous aider dans notre parcours continu d’IA responsable », a déclaré la société.
Les employés, d’autre part, ont déclaré que l’équipe d’éthique et de société était cruciale pour s’assurer que les produits d’IA qu’ils ont réellement conçus étaient inculqués aux principes de responsabilité que l’entreprise avait adoptés.
Un ancien employé a commenté la façon dont l’équipe a donné un sens aux principes issus de l’ORA pour les concepteurs de produits, en disant « notre travail consistait à leur montrer [how they apply] et de créer des règles dans des domaines où il n’y en avait pas.
L’équipe a également développé une boîte à outils pour aider les concepteurs de produits à se familiariser avec ces principes et à réaliser les dommages potentiels liés à la création d’outils d’IA. L’équipe avait également travaillé sur l’identification des risques liés à l’intégration de la technologie OpenAI dans les produits Microsoft.
L’équipe éthique et société comptait 30 membres en 2020, et en octobre de l’année dernière, ce nombre a été réduit à sept dans le cadre d’une réorganisation.
Le site d’information de la Silicon Valley Platformer affirme avoir obtenu une fuite audio (s’ouvre dans un nouvel onglet) des réunions qui ont suivi cette réorganisation, mettant en lumière le conflit entre l’équipe et John Montgomery, vice-président corporatif de l’IA chez Microsoft.
Montgomery a parlé de l’immense pression exercée par la gouvernance de Microsoft pour prendre les modèles d’IA et « les mettre entre les mains des clients à très grande vitesse ». Il a rassuré les employés que la plupart des membres de l’équipe seraient mutés dans d’autres secteurs de l’entreprise.
En réponse, un membre de l’équipe a soulevé des objections, affirmant que « ce qui a toujours été profondément préoccupant pour cette équipe, c’est notre impact sur la société et les impacts négatifs que nous avons eus. Et ils sont importants ».
Une autre réunion plus tôt ce mois-ci a ensuite confirmé que les membres restants de l’équipe seraient également dissous, l’éliminant complètement.
Depuis lors, un autre employé a déploré les licenciements, estimant que la précipitation à mettre en œuvre l’IA dans l’entreprise sans une surveillance appropriée et une réflexion sur les implications éthiques de l’IA : « Le pire, c’est que nous avons exposé l’entreprise à des risques et les êtres humains à des risques ». En faisant cela. »