La puissance d’OpenAI La lutte qui a captivé le monde de la technologie après le licenciement du co-fondateur Sam Altman a finalement atteint sa fin – du moins pour le moment. Mais qu’en penser ?
C’est presque comme si des éloges s’imposaient – comme si OpenAI était mort et qu’une nouvelle startup, mais pas nécessairement améliorée, se tenait parmi elle. L’ancien président de Y Combinator, Altman, est de retour à la barre, mais son retour est-il justifié ? Le nouveau conseil d’administration d’OpenAI connaît des débuts moins diversifiés (c’est-à-dire qu’il est entièrement blanc et masculin), et les objectifs philanthropiques fondateurs de l’entreprise risquent d’être cooptés par des intérêts plus capitalistes.
Cela ne veut pas dire que l’ancien OpenAI était parfait, loin de là.
Vendredi matin, OpenAI comptait un conseil d’administration de six personnes : Altman, le scientifique en chef d’OpenAI Ilya Sutskever, le président d’OpenAI Greg Brockman, l’entrepreneur technologique Tasha McCauley, le PDG de Quora Adam D’Angelo et Helen Toner, directrice du Center for Security and Emerging Technologies de Georgetown. . Le conseil d’administration était techniquement lié à une organisation à but non lucratif qui détenait une participation majoritaire dans le côté à but lucratif d’OpenAI, avec un pouvoir de décision absolu sur les activités, les investissements et l’orientation générale d’OpenAI à but lucratif.
La structure inhabituelle d’OpenAI a été établie par les cofondateurs de l’entreprise, dont Altman, avec les meilleures intentions. La charte exceptionnellement brève (500 mots) de l’organisation à but non lucratif précise que le conseil d’administration prend des décisions garantissant « que l’intelligence artificielle générale profite à toute l’humanité », laissant aux membres du conseil le soin de décider de la meilleure façon d’interpréter cela. Ni le « profit » ni le « revenu » ne sont mentionnés dans ce document de North Star ; Toner aurait dit un jour à l’équipe de direction d’Altman que le déclenchement de l’effondrement d’OpenAI « serait en fait cohérent avec les [nonprofit’s] mission. »
Peut-être que l’arrangement aurait fonctionné dans un univers parallèle ; pendant des années, cela a semblé fonctionner assez bien chez OpenAI. Mais une fois les investisseurs et partenaires puissants impliqués, les choses sont devenues… plus délicates.
Le licenciement d’Altman unit Microsoft et les employés d’OpenAI
Après que le conseil d’administration ait brusquement mis Altman en congé vendredi sans en avertir à peu près personne, y compris la majeure partie des 770 employés d’OpenAI, les bailleurs de fonds de la startup ont commencé à exprimer leur mécontentement en privé et en public.
Satya Nadella, le PDG de Microsoft, un collaborateur majeur d’OpenAI, aurait été « furieux » d’apprendre le départ d’Altman. Vinod Khosla, le fondateur de Khosla Ventures, un autre bailleur de fonds d’OpenAI, a déclaré sur X (anciennement Twitter) que le fonds souhaitait le retour d’Altman. Pendant ce temps, Thrive Capital, Khosla Ventures, Tiger Global Management et Sequoia Capital envisageraient d’intenter une action en justice contre le conseil d’administration si les négociations du week-end pour réintégrer Altman n’aboutissaient pas.
Désormais, les employés d’OpenAI n’étaient pas non aligné avec ces investisseurs depuis des apparences extérieures. Au contraire, presque tous – y compris Sutskever, dans un changement d’avis apparent – ont signé une lettre menaçant le conseil d’administration d’une démission massive s’ils choisissaient de ne pas faire marche arrière. Mais il faut considérer que ces employés d’OpenAI avaient beaucoup à perdre si OpenAI s’effondrait – mises à part les offres d’emploi de Microsoft et de Salesforce.
OpenAI était en pourparlers, menés par Thrive, pour éventuellement vendre les actions des salariés, ce qui aurait fait passer la valorisation de l’entreprise de 29 milliards de dollars à quelque part entre 80 et 90 milliards de dollars. La sortie soudaine d’Altman – et la rotation des PDG intérimaires douteux d’OpenAI – ont donné froid aux yeux de Thrive, mettant la vente en péril.
Altman a remporté la bataille de cinq jours, mais à quel prix ?
Mais maintenant, après plusieurs jours haletants et éprouvants, une certaine forme de résolution a été trouvée. Altman – ainsi que Brockman, qui a démissionné vendredi pour protester contre la décision du conseil d’administration – est de retour, bien que soumis à une enquête sur les préoccupations qui ont précipité sa destitution. OpenAI dispose d’un nouveau conseil d’administration de transition, satisfaisant l’une des demandes d’Altman. Et OpenAI conserverait sa structure, avec des bénéfices pour les investisseurs plafonnés et un conseil d’administration libre de prendre des décisions qui ne sont pas motivées par les revenus.
Le PDG de Salesforce, Marc Benioff, a posté sur X que « les gentils » ont gagné. Mais il serait peut-être prématuré de le dire.
Bien sûr, Altman a « gagné », battant un conseil d’administration qui l’accusait de « ne pas [being] toujours franche » avec les membres du conseil d’administration et, selon certains rapports, privilégier la croissance avant la mission. Dans un exemple de cette prétendue escroquerie, Altman aurait critiqué Toner dans un article qu’elle a co-écrit et qui présentait l’approche d’OpenAI en matière de sécurité sous un jour critique – au point où il a tenté de la pousser hors du conseil d’administration. Dans un autre, Altman a « rendu furieux » Sutskever en précipitant le lancement de fonctionnalités basées sur l’IA lors de la première conférence des développeurs d’OpenAI.
Le conseil d’administration ne s’est pas expliqué, même après des occasions répétées, évoquant d’éventuelles contestations judiciaires. Et on peut dire sans se tromper qu’ils ont renvoyé Altman d’une manière inutilement histrionique. Mais on ne peut nier que les réalisateurs auraient pu avoir des raisons valables de laisser partir Altman, du moins en fonction de la manière dont ils interprétaient leur directive humaniste.
Le nouveau conseil d’administration semble susceptible d’interpréter cette directive différemment.
Actuellement, le conseil d’administration d’OpenAI est composé de Bret Taylor, ancien co-PDG de Salesforce, de D’Angelo (le seul vestige du conseil d’administration d’origine) et de Larry Summers, économiste et ancien président de Harvard. Taylor est un entrepreneur, ayant cofondé de nombreuses sociétés, dont FriendFeed (acquise par Facebook) et Quip (grâce à l’acquisition de laquelle il est arrivé à Salesforce). Pendant ce temps, Summers entretient des liens étroits avec les entreprises et le gouvernement – un atout pour OpenAI, a probablement été la réflexion autour de sa sélection, à un moment où le contrôle réglementaire de l’IA s’intensifie.
Les réalisateurs ne semblent cependant pas être une « victoire » pure et simple pour ce journaliste – pas si l’intention était la diversité des points de vue. Même si six sièges restent à pourvoir, les quatre premiers donnent un ton plutôt homogène ; Un tel conseil d’administration serait en fait illégal en Europe, qui oblige les entreprises à réserver au moins 40 % de leurs sièges au conseil d’administration à des candidates.
Pourquoi certains experts en IA s’inquiètent du nouveau conseil d’administration d’OpenAI
Je ne suis pas le seul à être déçu. Un certain nombre d’universitaires de l’IA se sont tournés vers X pour exprimer leurs frustrations plus tôt dans la journée.
Noah Giansiracusa, professeur de mathématiques à l’Université Bentley et auteur d’un livre sur les algorithmes de recommandation sur les réseaux sociaux, conteste à la fois la composition exclusivement masculine du conseil d’administration et la nomination de Summers, qui, selon lui, a l’habitude de faire des remarques peu flatteuses sur les femmes.
« Quoi qu’on pense de ces incidents, l’optique n’est pas bonne, c’est le moins qu’on puisse dire – en particulier pour une entreprise qui a ouvert la voie en matière de développement de l’IA et qui a remodelé le monde dans lequel nous vivons », a déclaré Giansiracusa par SMS. « Ce que je trouve particulièrement troublant, c’est que l’objectif principal d’OpenAI est de développer une intelligence artificielle générale qui « profite à l’ensemble de l’humanité ». Puisque la moitié de l’humanité est composée de femmes, les événements récents ne me donnent pas beaucoup de confiance à ce sujet. Le toner représente le plus directement l’aspect sécurité de l’IA, et c’est si souvent la position dans laquelle les femmes ont été placées, tout au long de l’histoire mais surtout dans la technologie : protéger la société contre de graves dommages tandis que les hommes obtiennent le mérite d’innover et de gouverner le monde.
Christopher Manning, le directeur de l’AI Lab de Sanford, est légèrement plus charitable que — mais en accord avec — Giansiracusa dans son évaluation :
« Le nouveau conseil d’administration d’OpenAI est probablement encore incomplet », a-t-il déclaré à TechCrunch. « Néanmoins, le conseil d’administration actuel, dépourvu de personnes ayant une connaissance approfondie de l’utilisation responsable de l’IA dans la société humaine et composé uniquement d’hommes blancs, n’est pas un début prometteur pour une entreprise d’IA aussi importante et influente. »
L’iniquité sévit dans le secteur de l’IA, depuis les annotateurs qui étiquetent les données utilisées pour former des modèles d’IA génératifs jusqu’aux biais néfastes qui émergent souvent dans ces modèles formés, y compris les modèles d’OpenAI. Summers, pour être honnête, a ont exprimé leur inquiétude quant aux ramifications potentiellement néfastes de l’IA – du moins en ce qui concerne les moyens de subsistance. Mais les critiques avec lesquels j’ai parlé ont du mal à croire qu’un conseil d’administration comme celui actuel d’OpenAI donnera systématiquement la priorité à ces défis, du moins pas de la même manière qu’un conseil d’administration plus diversifié le ferait.
Cela soulève la question suivante : pourquoi OpenAI n’a-t-il pas tenté de recruter un éthicien bien connu de l’IA comme Timnit Gebru ou Margaret Mitchell pour le conseil d’administration initial ? N’étaient-ils « pas disponibles » ? Ont-ils refusé ? Ou OpenAI n’a-t-il pas fait d’effort en premier lieu ? Peut-être que nous ne le saurons jamais.
Apparemment, OpenAI a envisagé Laurene Powell Jobs et Marissa Mayer pour des postes au conseil d’administration, mais elles ont été jugées trop proches d’Altman. Le nom de Condoleezza Rice a également été évoqué, mais a finalement été ignoré.
OpenAI a une chance de se montrer plus sage et plus mondain dans la sélection des cinq sièges restants au conseil d’administration – ou trois, si Altman et un dirigeant de Microsoft en prennent un chacun (comme la rumeur le dit). S’ils ne choisissent pas une voie plus diversifiée, ce que Daniel Colson, directeur du groupe de réflexion AI Policy Institute, dit sur X pourrait bien être vrai : on ne peut pas faire confiance à quelques personnes ou à un seul laboratoire pour garantir le développement responsable de l’IA.
Mis à jour le 23/11 à 11 h 26, heure de l’Est : intégration d’un message de Timnit Gebru et d’informations provenant d’un rapport sur les femmes potentielles membres du conseil d’administration d’OpenAI.