Jeudi, le président Joe Biden a tenu une réunion à la Maison Blanche avec les PDG des principales sociétés d’IA, dont Google, Microsoft, OpenAI et Anthropic, soulignant l’importance d’assurer la sécurité des produits d’IA avant leur déploiement. Au cours de la réunion, Biden a exhorté les dirigeants à faire face aux risques posés par l’IA. Mais certains experts en IA ont critiqué l’exclusion des chercheurs en éthique qui ont mis en garde contre les dangers de l’IA depuis des années.
Au cours des derniers mois, les modèles d’IA génératifs tels que ChatGPT ont rapidement gagné en popularité et suscité un battage technologique intense, poussant les entreprises à développer des produits similaires à un rythme rapide.
Cependant, les inquiétudes grandissent quant aux problèmes potentiels de confidentialité, aux préjugés en matière d’emploi et à la possibilité de les utiliser pour créer des campagnes de désinformation. Selon la Maison Blanche, l’administration a appelé à plus de transparence, à des évaluations de sécurité et à une protection contre les attaques malveillantes lors d’une « discussion franche et constructive » avec les dirigeants.
Les participants les plus en vue de la réunion étaient Sundar Pichai de Google, Satya Nadella de Microsoft, Sam Altman d’OpenAI et Dario Amodei d’Anthropic.
Le vice-président Kamala Harris a présidé la réunion, et dans une vidéo de Biden « passant » publié sur Twitterle président a dit : « Je suis juste venu vous dire merci. Ce que vous faites a un potentiel énorme et un danger énorme. Je sais que vous le comprenez. Et j’espère que vous pourrez nous expliquer ce que vous pensez être le plus nécessaire pour protéger société ainsi qu’à l’avancement. C’est vraiment, vraiment important.
L’automne dernier, l’administration Biden a publié un ensemble de directives appelées « AI Bill of Rights » qui vise à protéger les Américains des effets néfastes des systèmes automatisés, notamment les préjugés, la discrimination et les problèmes de confidentialité.
Les chercheurs en éthique de l’IA répondent
Alors que l’invitation de Biden a montré l’intérêt de la direction pour un sujet politique brûlant, les critiques des antécédents éthiques des entreprises invitées n’ont pas été impressionnés par la réunion, avec de nombreux remettre en question le choix d’inviter à la réunion des personnes qui, selon eux, représentent des entreprises qui ont créé les problèmes d’IA que la Maison Blanche cherche à résoudre.
Sur Twitter, le chercheur en intelligence artificielle, le Dr Timnit Gebru écrit« Il semble que nous passions la moitié de notre temps à parler à divers législateurs et agences et ENCORE, nous avons cette merde. Une salle pleine de mecs qui nous ont donné les problèmes et nous ont virés pour avoir parlé des risques, étant appelés par le putain de président pour « protéger les droits des personnes ».
En 2020, Google a licencié Gebru à la suite d’un différend concernant un article de recherche qu’elle a co-écrit et qui mettait en évidence les risques et les biais potentiels dans les modèles linguistiques à grande échelle. L’incident a déclenché un débat au sein de la communauté des chercheurs en IA sur l’engagement de Google envers l’éthique de l’IA.
De même, la chercheuse en éthique de l’IA de l’Université d’Oxford Elizabeth Renieris tweeté« Malheureusement, et avec tout le respect que je leur dois POTUS, ce ne sont pas ces personnes qui peuvent nous dire ce qui est « le plus nécessaire pour protéger la société » en matière d’#IA. »
La critique reflète le clivage commun entre ce que l’on appelle souvent la « sécurité de l’IA » (un mouvement lâche principalement concerné par le risque existentiel hypothétique de l’IA, ouvertement associé aux employés d’OpenAI) et « l’éthique de l’IA » (un groupe de chercheurs largement préoccupé par les mauvaises applications et les impacts des systèmes d’IA actuels, y compris les préjugés et la désinformation).
Dans ce sens, l’auteur Dr Brandeis Marshall suggéré organiser une «contre-réunion» à la réunion de la Maison Blanche qui inclurait Hugging Face, le Distributed AI Research Institute, le UCLA Center of Critical Internet Inquiry et la Algorithmic Justice League.
Jeudi également, la Maison Blanche a annoncé un investissement de 140 millions de dollars pour lancer sept instituts de recherche sur l’IA par l’intermédiaire de la National Science Foundation. De plus, Anthropic, Google, Hugging Face, Nvidia, OpenAI et Stability AI participeront à des évaluations publiques de leurs systèmes d’IA au DEF CON 31.
Après la réunion de la Maison Blanche, Harris a publié une déclaration disant : « Le secteur privé a la responsabilité éthique, morale et légale d’assurer la sûreté et la sécurité de ses produits. Et chaque entreprise doit se conformer aux lois existantes pour protéger le peuple américain. attendons avec impatience le suivi et le suivi dans les semaines à venir. »