Dans une tentative législative visant à éviter la disparition inévitable de l’humanité aux mains de robots chasseurs-tueurs errants, le président américain Joe Biden a publié un décret établissant un nouvel ensemble de normes qui guideront le développement de l’IA. L’ordonnance comprend des exigences visant à « développer des normes, des outils et des tests pour garantir que les systèmes d’IA sont sûrs, sécurisés et dignes de confiance » et à partager des données pertinentes sur les modèles d’IA avec le gouvernement américain.
Les inquiétudes concernant les conséquences négatives potentielles du développement de l’intelligence artificielle se sont développées parallèlement à l’essor rapide du développement de l’IA lui-même. Les scénarios Skynet sont amusants à envisager, mais le problème le plus immédiat est l’utilisation de l’IA dans la génération de clips audio et vidéo extrêmement réalistes qui peuvent être utilisés à des fins néfastes, comme Biden lui-même l’a noté dans un récent discours.
Le président Biden avant de signer un décret imposant des mesures de sûreté et de sécurité à l’IA : « Grâce à l’IA, les fraudeurs peuvent prendre un enregistrement de trois secondes… de votre voix. J’en ai regardé un… J’ai dit : « Quand diable ai-je dit ça ? » » pic.twitter.com/GKACIVPjHa30 octobre 2023
« Grâce à l’IA, les fraudeurs peuvent enregistrer votre voix pendant trois secondes. J’en ai regardé une et j’ai dit : « Quand ai-je dit ça ? », a déclaré Biden. « Blague à part, un enregistrement de trois secondes de votre voix et générer une imitation assez bonne pour tromper – j’allais dire tromper votre famille, [but] idiot toi« .
Le nouveau décret promet « les mesures les plus radicales jamais prises pour protéger les Américains des risques potentiels des systèmes d’IA », et ils couvrent certainement beaucoup de terrain. Les points forts incluent :
- Exiger que les entreprises développant des systèmes d’IA « qui posent un risque sérieux pour la sécurité nationale, la sécurité économique nationale ou la santé et la sécurité publiques nationales » partagent les résultats des tests de sécurité et d’autres données « critiques » avec le gouvernement américain conformément à la loi sur la production de défense.
- Développer un ensemble de normes, d’outils et de tests qui seront définis et appliqués par plusieurs agences, notamment le National Institute of Standards and Technology, le Department of Homeland Security et le Department of Energy, pour garantir que les systèmes d’IA « sont sûrs, sécurisés et digne de confiance. »
- Développer de nouvelles normes pour le criblage de synthèse biologique afin de se protéger contre le risque d’utilisation de l’IA pour créer de nouveaux matériaux biologiques dangereux, ce qui, honnêtement, n’était pas quelque chose que j’avais envisagé jusqu’à présent, alors merci pour cela.
- Établir « des normes et des bonnes pratiques pour détecter les contenus générés par l’IA et authentifier les contenus officiels » afin de se protéger contre la fraude et la propagation de la désinformation.
L’ordonnance appelle également à des mesures pour lutter contre la « discrimination algorithmique », ce qui est une bonne chose, même si le passage au « développement de meilleures pratiques sur l’utilisation de l’IA dans la détermination de la peine, la libération conditionnelle et la probation, la libération conditionnelle et la détention provisoire, l’évaluation des risques, la surveillance, la prévision de la criminalité et la police prédictive et l’analyse médico-légale » est peut-être un peu trop Minority Report à mon goût. Et bien sûr, il existe un plan visant à faire progresser et à accélérer la recherche sur l’IA aux États-Unis grâce à la création de la National AI Research Resource, qui rendra les informations pertinentes plus facilement accessibles aux chercheurs et aux étudiants, et à des subventions élargies pour la recherche dans divers domaines liés à l’IA.
Biden a également appelé à une action bipartite du Congrès pour garantir la protection de la vie privée dans la formation et l’utilisation des systèmes d’IA. « Ce décret représente une action audacieuse, mais nous avons encore besoin que le Congrès agisse », a déclaré Biden dans un discours (via CNBC).
Le décret intervient le même jour que l’annonce d’un accord par les pays du G7 sur les principes directeurs du développement de l’IA et un code de conduite volontaire pour les développeurs dans le cadre de ce que l’on appelle le processus d’Hiroshima, qui a été établi en mai « pour promouvoir des garde-fous pour les technologies avancées ». Systèmes d’IA au niveau mondial. L’initiative s’inscrit dans un éventail plus large de discussions internationales.
« Nous pensons que nos efforts conjoints dans le cadre du processus d’IA d’Hiroshima favoriseront un environnement ouvert et favorable dans lequel des systèmes d’IA sûrs, sécurisés et dignes de confiance sont conçus, développés, déployés et utilisés pour maximiser les avantages de la technologie tout en atténuant ses risques, pour le le bien commun dans le monde entier, y compris dans les économies en développement et émergentes, dont quelques-unes visent à réduire la fracture numérique et à parvenir à l’inclusion numérique », ont déclaré les dirigeants du G7 dans une déclaration commune.
Les pays du G7 ont également appelé les développeurs de systèmes d’IA à s’engager à respecter un code de conduite international et ont déclaré que les premiers signataires de ces lignes directrices seraient annoncés « dans un avenir proche ».