Une équipe entière chargée de s’assurer que les produits d’IA de Microsoft sont livrés avec des garanties pour atténuer les dommages sociaux a été supprimée lors du dernier licenciement de 10 000 employés de l’entreprise, a rapporté Platformer.
D’anciens employés ont déclaré que l’équipe éthique et société était un élément essentiel de la stratégie de Microsoft visant à réduire les risques associés à l’utilisation de la technologie OpenAI dans les produits Microsoft. Avant qu’elle ne soit tuée, l’équipe a développé une «boîte à outils d’innovation responsable» complète pour aider les ingénieurs de Microsoft à prévoir les dommages pouvant être causés par l’IA, puis à réduire ces dommages.
Le rapport de Platformer est arrivé juste avant qu’OpenAI ne publie probablement son modèle d’IA le plus puissant à ce jour, GPT-4, qui contribue déjà à alimenter la recherche Bing, a rapporté Reuters.
Dans une déclaration fournie à Ars, Microsoft a déclaré qu’il restait « engagé à développer des produits et des expériences d’IA de manière sûre et responsable, et le fait en investissant dans des personnes, des processus et des partenariats qui accordent la priorité à cela ».
Qualifiant le travail de l’équipe éthique et société de « pionnier », Microsoft a déclaré que la société s’était davantage concentrée au cours des six dernières années sur l’investissement et l’expansion de la taille de son Bureau de l’IA responsable. Ce bureau reste actif, ainsi que les autres groupes de travail responsables de Microsoft sur l’IA, le comité Aether et la stratégie d’IA responsable en ingénierie.
Emily Bender, experte de l’Université de Washington en linguistique informatique et en questions éthiques dans le traitement du langage naturel, a rejoint d’autres critiques tweeter pour dénoncer la décision de Microsoft de dissoudre l’équipe éthique et société. Bender a dit à Ars qu’en tant qu’étranger, elle pense que la décision de Microsoft était « à courte vue ». Elle a ajouté : « Compte tenu de la difficulté et de l’importance de ce travail, toute réduction significative des effectifs est accablante. »
Bref historique de l’équipe éthique et société
Microsoft a commencé à se concentrer sur des équipes dédiées à l’exploration de l’IA responsable en 2017, a rapporté CNBC. En 2020, cet effort comprenait l’équipe d’éthique et de société avec une taille maximale de 30 membres, a noté Platformer. Mais alors que la course à l’IA avec Google s’intensifiait, Microsoft a commencé à déplacer la majorité des membres de l’équipe d’éthique et de société dans des équipes de produits spécifiques en octobre dernier. Cela ne laissait que sept personnes dédiées à la mise en œuvre des « plans ambitieux » de l’équipe éthique et société, ont déclaré les employés à Platformer.
C’était trop de travail pour une équipe aussi petite, et Platformer a rapporté que d’anciens membres de l’équipe avaient déclaré que Microsoft n’avait pas toujours donné suite à leurs recommandations, telles que les stratégies d’atténuation recommandées pour Bing Image Creator qui pourraient l’empêcher de copier les marques d’artistes vivants. (Microsoft a contesté cette affirmation, affirmant qu’il avait modifié l’outil avant son lancement pour répondre aux préoccupations de l’équipe.)