Nos systèmes gouvernementaux locaux et étatiques sont piratés et rançonnés avec une régularité décourageante. Lors de la conférence Black Hat USA à Las Vegas mercredi, l’administration Biden a révélé ses plans pour mieux défendre l’infrastructure numérique critique du pays : elle lance un concours dirigé par la DARPA pour construire des systèmes d’IA capables d’identifier et de corriger de manière proactive les vulnérabilités logicielles. C’est vrai, nous organisons un hackathon !
Le « AI Cyber Challenge » (AIxCC) est un programme de développement de deux ans ouvert aux concurrents à travers les États-Unis. Il est hébergé par la DARPA en collaboration avec Anthropic, Google, Microsoft et OpenAI. Ces entreprises apportent à la fois leur expertise dans le domaine et l’accès à leurs technologies d’IA.
« Le défi est essentiel pour rassembler les technologies de pointe en matière de logiciels automatiques, de sécurité et d’intelligence artificielle, qui renforceront nos cyberdéfense en étant capables d’exploiter et de corriger rapidement les vulnérabilités logicielles », Anne Neuberger, conseillère adjointe à la sécurité nationale pour la cyber et les technologies émergentes. , a déclaré lors d’un appel à la presse mardi.
« C’est l’une des façons dont les secteurs public et privé travaillent ensemble pour faire de grandes choses pour changer la façon dont l’avenir se déroule », a ajouté Arati Prabhakar, directeur du Bureau de la politique scientifique et technologique de la Maison Blanche. « C’est pourquoi la Maison Blanche a demandé à la DARPA de s’attaquer au sujet critique de l’IA pour la cybersécurité. »
Les responsables de la Maison Blanche admettent que sécuriser correctement les systèmes logiciels fédéraux tentaculaires du pays contre les intrusions est une tâche ardue. « Ils n’ont pas les outils capables de sécurité à cette échelle », a déclaré Perri Adams, responsable de programme, Information Innovation Office, DARPA, lors de l’appel. « Nous avons vu ces dernières années des pirates exploiter l’état des choses, posant un grave risque pour la sécurité nationale. »
Malgré ces vulnérabilités, « je pense que nous devons garder une longueur d’avance et l’IA offre une approche très prometteuse pour cela », a déclaré Adams. Il y a près de 20 millions de dollars en prix en argent à gagner. Et pour s’assurer que la compétition n’est pas dominée par les équipes les plus riches, la DARPA met 7 millions de dollars à la disposition des petites entreprises qui souhaitent également concourir.
L’agence de recherche organisera un événement de qualification ouvert au printemps prochain où les meilleures équipes (jusqu’à 20 peuvent potentiellement se qualifier) seront invitées aux demi-finales du DEF CON 24. Cette cohorte sera réduite aux cinq meilleures équipes, qui gagneront des prix monétaires lors de la compétition et être invité à revenir à DEF CON 25 pour la finale. Les trois meilleures équipes de DC25 gagneront encore plus d’argent. Vous décrochez la première place, vous obtenez 4 millions de dollars – mais pour ce faire, votre IA devrait être en mesure de « défendre rapidement les codes d’infrastructure critiques contre les attaques », selon les responsables de la Maison Blanche. Idéalement, le système résultant parcourrait les réseaux à la recherche et à la réparation autonome des bogues de sécurité logicielle qu’il trouve.
L’équipe gagnante sera également fortement encouragée à ouvrir le programme résultant. Le concours fait appel à l’Open Source Security Foundation (OpenSSF), un projet de la Linux Foundation, en tant que conseiller du défi. Leur travail consiste à aider à garantir que le code est utilisé immédiatement, « par tout le monde, des développeurs volontaires et open source à l’industrie commerciale », a déclaré Adams. « Si nous réussissons, j’espère voir AIxCC non seulement produire la prochaine génération d’outils de cybersécurité dans cet espace, mais montrer comment l’IA peut être utilisée pour améliorer la société en défendant ses fondements essentiels. »
« Le président a été tout à fait clair sur le fait que nous devons faire en sorte que l’IA soit adaptée au peuple américain », a déclaré Prabhakar. L’automne dernier, la Maison Blanche de Biden a dévoilé son Plan directeur pour une déclaration des droits de l’IA, qui définissait les valeurs et les objectifs fondamentaux de l’administration en la matière. Les efforts de suivi comprenaient la promotion d’un cadre de gestion des risques liés à l’IA et l’investissement de 140 millions de dollars dans la création de sept nouveaux instituts nationaux de recherche sur l’IA et l’apprentissage automatique. En juillet, la Maison Blanche a également demandé à un certain nombre de grandes sociétés d’IA d’accepter des affirmations (non contraignantes) selon lesquelles elles développeront leurs produits de manière responsable.