Getty Images
Mercredi, le sénateur américain Chuck Schumer (DN.Y.) a organisé un « AI Insight Forum » dans les bureaux du Sénat sur une éventuelle réglementation de l’IA. Parmi les participants figuraient des milliardaires et des titans de l’industrie moderne tels qu’Elon Musk, Bill Gates, Mark Zuckerberg, Sam Altman d’OpenAI et Jensen Huang de Nvidia. Mais cette liste d’invités très corporatifs – avec 14 sur 22 étant des PDG – a fait perplexe certains.
« C’est la salle que vous réunissez lorsque vos employés veulent des photos avec des célébrités de l’IA de l’industrie technologique. Ce n’est pas la salle que vous rassemblez lorsque vous voulez mieux comprendre ce qu’est l’IA, comment (et pour qui) elle fonctionne et que faire. à ce sujet », a écrit la présidente de Signal, Meredith Whittaker, sur X.
La liste, composée de nombreux PDG, a amené d’autres à remettre en question le sens technique de l’IA des participants. « J’espère que Schumer et d’autres s’adapteront pour entendre les contrepoints des nombreux techniciens qui savent bien expliquer la technologie », a déclaré le Dr Margaret Mitchell de la plateforme d’IA Hugging Face, dont le PDG a assisté à la réunion. « Ces PDG ne le sont en grande partie pas. Et ils sont très incités à obscurcir les détails critiques, dans la mesure où ils les comprennent eux-mêmes. »
Mitchell a également fait part de ses inquiétudes concernant le manque de femmes techniquement compétentes lors de la réunion. Au total, sept des 22 invités étaient des femmes, mais toutes n’occupent pas des postes techniques dans l’IA, y compris des représentantes de l’AFL-CIO et de la Writers Guild. « Les femmes sont techniques, mais vous ne le sauriez pas grâce aux invités de Schumer – et c’est un énorme problème si nous voulons créer une réglementation de l’IA qui aide l’IA à fonctionner pour tout le monde », a déclaré Mitchell.
Getty Images
Certains sénateurs ont également critiqué la nature de la réunion. « Je pense qu’il est ridicule que tous ces monopoleurs soient tous là pour dire aux sénateurs comment façonner le cadre réglementaire afin qu’ils puissent gagner le maximum d’argent », a déclaré le sénateur Josh Hawley (R-Mo.).
Malgré la controverse, la réunion a suscité un intérêt bipartisan, avec la participation de plus de 60 sénateurs. Le chef de la majorité démocrate au Sénat, Schumer, et le sénateur Todd Young (R-Ind.) ont exprimé leur optimisme quant à la volonté du Sénat d’examiner des propositions législatives. Cependant, le sénateur Mike Rounds (RS.D.) a souligné que le processus d’élaboration d’une législation appropriée prendrait du temps. « Sommes-nous prêts à rédiger une législation ? Absolument pas », a déclaré Rounds, cité par Reuters. « N’etaient pas là. »
Alors que la réunion était fermée aux médias et au public, Reuters et le New York Times ont rendu compte d’une partie des discussions, menées en privé afin que personne ne « joue à la presse », a déclaré Schumer.
Selon Reuters, Musk a plaidé en faveur de la nécessité d’un « arbitre » dans le domaine de l’IA. Il a décrit la réglementation de l’IA comme s’apparentant à un jeu sportif, où les règles garantissent le fair-play et protègent les participants. « Il est important pour nous d’avoir un arbitre pour garantir que les entreprises prennent des mesures sûres et dans l’intérêt du grand public », a déclaré Musk.
Le multimilliardaire, qui gère diverses entreprises technologiques, dont la plateforme de médias sociaux X, a présenté la réunion comme un « service rendu à l’humanité », suggérant que ses ramifications « pourraient rester dans l’histoire comme étant très importantes pour l’avenir de la civilisation ». Les commentaires de Musk font écho à ses appels précédents à une pause de six mois dans le développement de systèmes d’IA plus puissants que le GPT-4 d’OpenAI, qui, selon certains critiques, a négligé les dommages actuels de l’IA au profit de dangers hypothétiques et non prouvés.
D’un autre côté, Zuckerberg de Meta aurait poussé en faveur d’une approche collaborative entre le gouvernement et les entreprises technologiques. Il a exhorté le Congrès à « s’engager avec l’IA pour soutenir l’innovation et les garanties », soulignant l’avantage stratégique de laisser les entreprises américaines établir des normes mondiales.
En raison de l’essor rapide de l’IA générative aux yeux du public au cours de l’année écoulée – en particulier en raison du succès de l’assistant d’IA ChatGPT et des avertissements sur les dangers potentiels d’hypothétiques machines super-intelligentes – les outils d’intelligence artificielle sont carrément tombés dans la ligne de mire des potentiels États-Unis. la réglementation gouvernementale, avec un vif intérêt récemment de la part de Schumer et d’autres membres du Congrès. La semaine dernière, les sénateurs américains Richard Blumenthal (Démocrate du Connecticut) et Hawley ont proposé un cadre législatif bipartisan qui obligerait les entreprises travaillant sur des applications d’IA « à haut risque », telles que GPT-4, à obtenir une licence gouvernementale.
L’appel en faveur d’une réglementation de l’IA est devenu de plus en plus mondial, les pays du monde entier s’efforçant d’établir des règles concernant la reconnaissance faciale, les deepfakes, les ensembles de données de formation, etc. Cette semaine, les sociétés Adobe, IBM et Nvidia ont annoncé qu’elles avaient rejoint les engagements volontaires du président Joe Biden en matière d’IA, qui imposent des mesures telles que le filigrane du contenu généré par l’IA pour signaler ses origines artificielles.
Avec autant de battage médiatique – et tant d’argent qui circule – les experts de l’industrie comme Mitchell craignent que les détails techniques ne se perdent dans la conversation. « La bonne chose à faire aurait été de communiquer d’abord avec des personnes techniquement compétentes et capables de défendre les droits des personnes », a déclaré Mitchell. « Ils auraient jeté les bases de la compréhension de Schumer. Au lieu de cela, les fondements de sa compréhension sont désormais axés sur la maximisation des profits à court terme. »