Le gouverneur de Californie, Gavin Newsom, a opposé son veto à la loi sur l’innovation sûre et sécurisée pour les modèles d’intelligence artificielle frontalière. (BS 1047) aujourd’hui. Dans son message de vetole gouverneur Newsom a cité plusieurs facteurs dans sa décision, notamment le fardeau que le projet de loi aurait imposé aux sociétés d’IA, l’avance de la Californie dans le domaine et une critique selon laquelle le projet de loi pourrait être trop large.
« Bien que bien intentionné, le SB 1047 ne tient pas compte du fait qu’un système d’IA soit déployé dans des environnements à haut risque, implique une prise de décision critique ou l’utilisation de données sensibles. Au lieu de cela, le projet de loi applique des normes strictes même aux fonctions les plus élémentaires, à condition qu’un grand système les déploie. Je ne pense pas que ce soit la meilleure approche pour protéger le public des menaces réelles posées par la technologie.
Newsom écrit que le projet de loi pourrait « donner au public un faux sentiment de sécurité quant au contrôle de cette technologie en évolution rapide ».
« Des modèles plus petits et spécialisés pourraient s’avérer tout aussi dangereux, voire plus, que les modèles ciblés par le SB 1047 – au détriment potentiel de l’innovation même qui alimente le progrès en faveur du bien public. »
Le gouverneur dit qu’il convient qu’il devrait y avoir des protocoles de sécurité et des garde-fous en place, ainsi que des conséquences « claires et applicables » pour les mauvais acteurs. Cependant, il déclare qu’il ne croit pas que l’État devrait « se contenter d’une solution qui ne s’appuie pas sur une analyse empirique de la trajectoire des systèmes et des capacités d’IA ».
Voici le message de veto complet :
Dans un poster sur Xle sénateur Scott Wiener, l’auteur principal du projet de loi, a qualifié le veto de « revers pour tous ceux qui croient à la surveillance des grandes entreprises qui prennent des décisions critiques » affectant la sécurité et le bien-être publics et « l’avenir de la planète ».
« Ce veto nous laisse face à une réalité troublante : les entreprises qui visent à créer une technologie extrêmement puissante ne sont confrontées à aucune restriction contraignante de la part des décideurs politiques américains, en particulier compte tenu de la paralysie persistante du Congrès quant à la réglementation significative de l’industrie technologique. »
Fin août, le SB 1047 est arrivé sur le bureau du gouverneur Newsom, sur le point de devenir le cadre juridique le plus strict en matière d’IA aux États-Unis, avec une date limite pour le signer ou y opposer son veto au 30 septembre.
Il se serait appliqué aux sociétés d’IA couvertes exerçant leurs activités en Californie avec un modèle dont la formation coûte plus de 100 millions de dollars ou plus de 10 millions de dollars à affiner, ajoutant des exigences selon lesquelles les développeurs mettent en œuvre des mesures de protection telles qu’un « kill switch » et établissent des protocoles de test pour réduire le risque d’événements désastreux comme une cyberattaque ou une pandémie. Le texte établit également des protections pour les lanceurs d’alerte afin qu’ils signalent les violations et permet à l’AG d’intenter des poursuites pour les dommages causés par des incidents de sécurité.
Les changements depuis son introduction comprenaient la suppression des propositions visant à créer une nouvelle agence de réglementation et l’octroi au procureur général de l’État du pouvoir de poursuivre les développeurs pour des incidents potentiels avant qu’ils ne se produisent. La plupart des entreprises couvertes par la loi se sont opposées à la législation, même si certaines ont atténué leurs critiques après ces amendements.
Dans une lettre adressée au sénateur Wiener, auteur du projet de loi, Jason Kwon, directeur de la stratégie d’OpenAI, a déclaré que le SB 1047 ralentirait les progrès et que le gouvernement fédéral devrait plutôt s’occuper de la réglementation de l’IA. Pendant ce temps, le PDG d’Anthropic, Dario Amodei écrit au gouverneur après que le projet de loi ait été amendé, énumérant ses avantages et ses inconvénients et disant : « … le nouveau SB 1047 est considérablement amélioré, au point que nous pensons que ses avantages dépassent probablement ses coûts. »
La Chambre du Progrès, une coalition qui représente Amazon, Meta et Google, a également prévenu la loi « l’innovation paralysée ».
Jamie Radice, responsable des affaires publiques de Meta, a envoyé par courrier électronique la déclaration de Meta sur le veto à Le bord:
« Nous sommes heureux que le gouverneur Newsom ait opposé son veto au SB1047. Ce projet de loi aurait étouffé l’innovation en matière d’IA, nui à la croissance des entreprises et à la création d’emplois, et brisé la longue tradition de l’État consistant à favoriser le développement open source. Nous soutenons une réglementation responsable en matière d’IA et restons déterminés à collaborer avec les législateurs pour promouvoir de meilleures approches.
Parmi les opposants au projet de loi figurent l’ancienne présidente de la Chambre, Nancy Pelosi, le maire de San Francisco, London Breed, et huit Démocrates du Congrès de Californie. De l’autre côté, parmi les partisans virulents figurent Elon Muskdes noms éminents d’Hollywood comme Mark Hamill, Alyssa Milano, Shonda Rhimes et JJ Abrams, et des syndicats dont SAG-AFTRA et SEIU.
Le gouvernement fédéral étudie également les moyens de réglementer l’IA. En mai, le Sénat a proposé une feuille de route de 32 milliards de dollars qui couvre plusieurs domaines sur lesquels les législateurs devraient se pencher, notamment l’impact de l’IA sur les élections, la sécurité nationale, les contenus protégés par le droit d’auteur, etc.