L’Assemblée de l’État de Californie a adopté la loi sur l’innovation sûre et sécurisée pour les modèles d’intelligence artificielle de pointe (SB 1047), Reuters rapportsCe projet de loi est l’une des premières réglementations importantes en matière d’intelligence artificielle aux États-Unis.
Le projet de loi, qui a suscité de vives discussions dans la Silicon Valley et au-delà, obligerait les entreprises d’IA opérant en Californie à mettre en œuvre un certain nombre de précautions avant de former un modèle de base sophistiqué. Il s’agirait notamment de permettre l’arrêt rapide et complet du modèle, de garantir que le modèle est protégé contre les « modifications dangereuses après la formation » et de maintenir une procédure de test pour évaluer si un modèle ou ses dérivés sont particulièrement à risque de « causer ou de permettre un préjudice critique ».
Le sénateur Scott Wiener, principal auteur du projet de loi, dit Le projet de loi SB 1047 est un projet de loi très raisonnable qui demande aux grands laboratoires d’IA de faire ce qu’ils se sont déjà engagés à faire : tester leurs grands modèles pour détecter les risques de sécurité catastrophiques. « Nous avons travaillé dur toute l’année, avec les défenseurs de l’open source, Anthropic et d’autres, pour affiner et améliorer le projet de loi. Le projet de loi SB 1047 est bien calibré par rapport à ce que nous savons des risques prévisibles liés à l’IA, et il mérite d’être promulgué. »
Les critiques du projet de loi SB 1047 — y compris OpenAI et Anthropiquepoliticiens Zoé Lofgren et Nancy Pelosiet Chambre de commerce de Californie — ont fait valoir que le projet se concentrait trop sur les dommages catastrophiques et qu’il pourrait nuire indûment aux petits développeurs d’IA open source. La facture a été modifié en réponse, remplaçant les sanctions pénales potentielles par des sanctions civiles, réduisant les pouvoirs d’application accordés au procureur général de Californie et ajustant les conditions d’adhésion à un « Conseil des modèles frontaliers » créé par le projet de loi.
Après le vote du Sénat de l’État sur le projet de loi amendé – un vote qui devrait être adopté – le projet de loi sur la sécurité de l’IA sera transmis au gouverneur Gavin Newsom, qui aura jusqu’à la fin du mois de septembre pour décider de son sort. selon Le New York Times.
Anthropic a refusé de commenter, se contentant de faire référence à une lettre envoyée par le PDG d’Anthropic, Dario Amodei, au gouverneur Newsom. la semaine dernièreOpenAI a refusé de commenter et a fait référence à une lettre du directeur de la stratégie d’OpenAI, Jason Kwon, envoyée au sénateur Wiener, également la semaine dernière.
Mise à jour du 28 août:OpenAI a refusé de commenter.