Charis Morgan ; Getty Images
De riches entrepreneurs technologiques, dont Elon Musk, ont lancé OpenAI en 2015 en tant que laboratoire de recherche à but non lucratif qui, selon eux, impliquerait la société et le public dans le développement d’une IA puissante, contrairement à Google et à d’autres entreprises technologiques géantes travaillant à huis clos. Conformément à cet esprit, les rapports d’OpenAI adressés aux autorités fiscales américaines indiquent depuis sa création que tout membre du public peut consulter des copies de ses documents constitutifs, de ses états financiers et de ses règles en matière de conflits d’intérêts.
Mais lorsque WIRED a demandé ces documents le mois dernier, OpenAI a déclaré que sa politique avait changé et que la société n’avait fourni qu’un état financier restreint qui omettait la majorité de ses opérations.
« Nous fournissons des états financiers sur demande », a déclaré le porte-parole de l’entreprise, Niko Felix. « OpenAI aligne nos pratiques sur les normes de l’industrie et, depuis 2022, cela inclut de ne pas diffuser publiquement de documents internes supplémentaires. »
L’abandon par OpenAI de son engagement de transparence de longue date obscurcit des informations qui pourraient faire la lumière sur la récente quasi-implosion d’une entreprise ayant une influence cruciale sur l’avenir de l’IA et pourraient aider les étrangers à comprendre ses vulnérabilités. En novembre, le conseil d’administration d’OpenAI a licencié le PDG Sam Altman, laissant entendre dans une déclaration qu’il n’était pas digne de confiance et qu’il avait mis en danger sa mission visant à garantir que l’IA « profite à toute l’humanité ». Une révolte des employés et des investisseurs a rapidement contraint le conseil d’administration à réintégrer Altman et à expulser la plupart de ses propres membres, avec une liste d’administrateurs remaniée s’engageant à examiner la crise et à adopter des changements structurels pour regagner la confiance des parties prenantes.
L’accès à la politique de conflit d’intérêts d’OpenAI pourrait montrer quel pouvoir le nouveau conseil d’administration a réellement sur Altman et ses activités extérieures, qui incluent des investissements personnels dans de nombreuses startups poursuivant des projets d’IA et un fabricant de réacteurs nucléaires. Le mélange de son travail quotidien et de ses projets personnels a joué un certain rôle dans la méfiance des membres du conseil d’administration, selon des personnes impliquées dans la situation mais non autorisées à en discuter. En 2019, alors qu’Altman était à la barre, OpenAI a signé une lettre d’intention non contraignante pour acheter 51 millions de dollars de puces d’IA à Rain, une startup dans laquelle il a investi plus d’un million de dollars, a rapporté WIRED le mois dernier. OpenAI n’a pas avancé avec un achat. Felix affirme qu’Altman est transparent avec le conseil d’administration au sujet de ses investissements et suit un processus de gestion des conflits potentiels.
Un peu d’éclairage sur les documents constitutifs d’OpenAI pourrait révéler si des modifications ont été apportées pour stabiliser une structure d’entreprise inhabituelle et potentiellement apaiser des bailleurs de fonds tels que Microsoft. Les statuts fondateurs de la société, rendus publics via sa demande d’exonération fiscale déposée en 2016 auprès de l’Internal Revenue Service, indiquent comment une fraction du conseil d’administration pourrait prendre le contrôle et chasser Altman. Les documents déposés par OpenAI auprès de l’IRS jusqu’en 2022 indiquaient qu’aucun « changement significatif » n’avait jamais été apporté à ses documents constitutifs. Mais la société a presque certainement fait des mises à jour après le retour d’Altman pour lui permettre d’accorder un siège sans droit de vote au conseil d’administration à but non lucratif à Microsoft, dont le PDG, Satya Nadella, s’est plaint publiquement d’avoir été aveuglé par le licenciement d’Altman. Toute modification supplémentaire apportée à ce moment-là reste secrète.
La demande de WIRED concernant les documents promis dans les dossiers IRS d’OpenAI incombait à l’avocat de son organisation à but non lucratif. Leur déni et leur nouvelle politique de rétention de ces documents prolongent une tendance existante à la diminution de l’ouverture d’un projet fondé sur la transparence. OpenAI a déjà publié de nombreux détails sur ses inventions en matière d’IA, mais a plus récemment gardé les détails techniques et les données derrière son outil le plus célèbre, ChatGPT. Felix, le porte-parole de l’entreprise, a déclaré qu’OpenAI, basé à San Francisco, divulgue tout le matériel requis par l’IRS et le procureur général de Californie et qu’il publie régulièrement des informations sur ses travaux de recherche et de sécurité, tout en rendant également ses recherches disponibles gratuitement sous la forme d’outils tels que comme ChatGPT.
Le déclin de l’ouverture d’OpenAI est particulièrement notable depuis 2019, lorsque l’organisation à but non lucratif a créé une filiale à but lucratif pour héberger l’essentiel de son développement d’IA et attirer des investissements extérieurs. Cela a ouvert la voie à OpenAI pour lier son avenir aux largesses de Microsoft, l’un des géants de la technologie qu’il a été fondé pour défier, et également pour protéger ses finances. Le cofondateur d’OpenAI devenu concurrent, Elon Musk, a déclaré lors d’un événement du New York Times en novembre que son ancienne société devrait s’appeler Super-Closed-Source-for-Maximum-Profit-AI.