De nombreuses grandes entreprises technologiques se sont jointes à un effort basé aux États-Unis pour promouvoir des pratiques responsables en matière d’IA. Le consortium américain AI Safety Institute (AISIC) comptera Meta, Google, Microsoft et Apple parmi ses membres. La secrétaire au Commerce, Gina Raimondo, vient d’annoncer les nombreux nouveaux membres du groupe et a déclaré qu’ils seront chargés de mener à bien les actions indiquées dans le domaine de l’intelligence artificielle.
« Le gouvernement américain a un rôle important à jouer dans l’établissement des normes et le développement des outils dont nous avons besoin pour atténuer les risques et exploiter l’immense potentiel de l’intelligence artificielle », a déclaré Raimondo dans un communiqué.
Le décret d’octobre de Biden étant d’une grande portée, ce consortium se concentrera donc sur l’élaboration de lignes directrices pour « l’équipe rouge, les évaluations de capacités, la gestion des risques, la sûreté et la sécurité, et le filigrane du contenu synthétique ».
Une équipe rouge qui remonte à la guerre froide. Il fait référence à des simulations dans lesquelles l’ennemi était appelé « l’équipe rouge ». Dans ce cas, l’ennemi serait un. Ceux qui se livrent à cette pratique tenteront de tromper l’IA pour qu’elle fasse de mauvaises choses, comme divulguer des numéros de carte de crédit, via un piratage rapide. Une fois que les gens savent comment briser le système, ils peuvent mettre en place de meilleures protections.
Le filigrane du contenu synthétique est un autre aspect important de l’ordre initial de Biden. Les membres du consortium élaboreront des lignes directrices et des actions pour garantir que les utilisateurs puissent facilement identifier les matériaux générés par l’IA. Nous espérons que cela entraînera une désinformation améliorée par l’IA. Le tatouage numérique n’a pas encore été largement adopté, même si ce programme « facilitera et aidera à standardiser » les spécifications techniques sous-jacentes à cette pratique.
Le travail du consortium ne fait que commencer, même si le ministère du Commerce affirme qu’il représente le plus grand ensemble d’équipes de test et d’évaluation au monde. Le décret de Biden et ce consortium affilié sont à peu près tout ce que nous avons pour l’instant. Un congrès significatif