OpenAI dit qu’il lance un programme pour attribuer dix subventions de 100 000 $ pour financer des expériences dans la mise en place d’un processus démocratique pour décider des règles que les systèmes d’IA devraient suivre – « dans les limites définies par la loi ».
Le lancement du programme de subventions intervient après les appels d’OpenAI en faveur d’un organisme international de réglementation de l’IA semblable à celui qui régit l’énergie nucléaire. Dans leur proposition d’un tel organisme, les co-fondateurs d’OpenAI, Sam Altman, Greg Brockman et Ilya Sutskever, ont fait valoir que le rythme de l’innovation dans l’IA est si rapide que nous ne pouvons pas nous attendre à ce que les autorités existantes maîtrisent correctement la technologie – un sentiment annoncé aujourd’hui. capture également.
Concrètement, OpenAI dit qu’il cherche à financer des individus, des équipes et des organisations pour développer des preuves de concepts pour un « processus démocratique » qui pourrait répondre aux questions sur les garde-fous pour l’IA. L’entreprise veut apprendre de ces expériences, dit-elle, et les utiliser comme base pour un processus plus global – et plus ambitieux – à l’avenir.
« Bien que ces expériences initiales ne soient pas (du moins pour l’instant) destinées à être contraignantes pour les décisions, nous espérons qu’elles exploreront des questions pertinentes pour la prise de décision et construiront de nouveaux outils démocratiques qui pourront éclairer plus directement les décisions à l’avenir », a écrit la société dans un blog. article publié aujourd’hui. « Cette subvention représente une étape vers l’établissement de processus démocratiques pour superviser… la superintelligence. »
Avec les subventions, fournies par l’organisation à but non lucratif d’OpenAI, OpenAI espère établir un processus reflétant l’idéal platonicien de la démocratie : un groupe « largement représentatif » de personnes échangeant des opinions, s’engageant dans des discussions « délibérées » et décidant finalement d’un résultat via un processus transparent. processus de prise de décision. Idéalement, dit OpenAI, le processus aidera à répondre à des questions telles que « Dans quelles conditions les systèmes d’IA devraient-ils condamner ou critiquer les personnalités publiques, étant donné les différentes opinions des groupes concernant ces personnalités ? » et « Comment les points de vue contestés doivent-ils être représentés dans les résultats de l’IA ? »
« L’objectif principal de cette subvention est de favoriser l’innovation dans les processus – nous avons besoin de méthodes démocratiques améliorées pour régir le comportement de l’IA », écrit OpenAI. « Nous pensons que les décisions sur le comportement de l’IA doivent être façonnées par diverses perspectives reflétant l’intérêt public. »
Dans le message d’annonce, OpenAI laisse entendre que le programme de subventions est entièrement séparé de ses intérêts commerciaux. Mais c’est un peu une pilule difficile à avaler, étant donné les récentes critiques d’Altman sur la proposition de réglementation de l’IA dans l’UE. Le moment semble également remarquable, après la comparution d’Altman devant le comité du Congrès du Sénat américain la semaine dernière, où il a plaidé pour une saveur très spécifique de réglementation de l’IA qui aurait un effet minimal sur la technologie d’OpenAI telle qu’elle existe aujourd’hui.
Pourtant, même si le programme finit par être intéressé, c’est une direction intéressante à prendre pour l’élaboration des politiques d’IA (bien que cela fasse double emploi avec les efforts de l’UE à certains égards évidents). Pour ma part, je suis curieux de voir quelles sortes d’idées de « processus démocratiques » émergent – et quels candidats OpenAI finit par choisir.
Les gens peuvent postuler au programme de subventions OpenAI à partir d’aujourd’hui – la date limite est le 24 juin à 21 h HAP. Une fois la période de candidature terminée, OpenAI sélectionnera dix destinataires retenus. Les lauréats devront présenter un concept impliquant au moins 500 participants, publier un rapport public sur leurs conclusions d’ici le 20 octobre et ouvrir le code derrière leur travail.