Kyutai est un laboratoire français de recherche en IA doté d’un budget de 330 millions de dollars qui rendra tout open source

Ce matin, lors de la conférence ai-PULSE de Scaleway, le milliardaire français et PDG d’Iliad Xavier Niel a donné quelques détails supplémentaires sur ses projets de laboratoire de recherche en IA basé à Paris.

Ce nouveau laboratoire, appelé Kyutai, sera une organisation à but non lucratif financée par des fonds privés et travaillant sur l’intelligence artificielle générale. Il travaillera avec des doctorants, des postdoctorants et des chercheurs sur des articles de recherche et des projets open source. Lorsqu’Iliad avait dévoilé ce laboratoire de recherche, la société avait annoncé que Niel consacrerait 100 millions d’euros à ce projet (109 millions de dollars au taux de change actuel).

« Grâce à quelques amis formidables qui sont là aujourd’hui, nous approchons désormais de 300 millions d’euros pour le financement de cette initiative », a déclaré Niel lors de la conférence. Parmi ces « amis » se trouve un autre milliardaire français, Rodolphe Saadé, PDG du géant français du transport maritime et de la logistique CMA CGM, qui investit également 100 millions d’euros. Il existe d’autres petits contributeurs, comme la fondation Eric Schmidt et quelques donateurs anonymes.

Ce n’est qu’un point de départ, car Kyutai est ouverte à davantage de dons. « Ce qui est intéressant avec autant de journalistes dans la salle, c’est que le projet va potentiellement intéresser d’autres investisseurs », a déclaré Saadé lors d’une conférence de presse après l’annonce.

Comme Kyutai travaillera sur des modèles fondamentaux, ils auront également besoin d’une certaine puissance de calcul. La bonne nouvelle est que Scaleway, la division cloud d’Iliad, a récemment acquis un millier de GPU Nvidia H100. Ces GPU haut de gamme sont essentiels pour l’inférence et la formation de modèles et seront disponibles à prix coûtant pour Kyutai.

Kyutai a déjà commencé à recruter son équipe scientifique principale. Six hommes sont montés sur scène ce matin pour parler de leurs travaux antérieurs et de ce qu’ils envisagent pour le laboratoire de recherche : Patrick Perez, Edouard Grave, Hervé Jegou, Laurent Mazaré, Neil Zeghidour et Alexandre Defossez. Ils ont auparavant travaillé pour l’équipe de recherche en IA de Meta, FAIR, la division DeepMind de Google, Inria, etc.

Patrick Perez, ancien collaborateur de Valeo, va devenir directeur du laboratoire de recherche. Kyutai a également constitué une équipe de conseillers scientifiques composés de chercheurs renommés en IA : Yejin Choi, Yann LeCun et Bernhard Schölkopf. Ils vérifieront simplement le travail de chacun une ou deux fois par an et donneront leur avis.

L’une des raisons pour lesquelles Kyutai pense pouvoir convaincre certains chercheurs de rejoindre son laboratoire est que les chercheurs pourront publier des articles de recherche.

« Malheureusement, les grandes entreprises technologiques tolèrent de moins en moins les publications scientifiques. Au-delà de l’ego des chercheurs, cela contribue à faire progresser la recherche et à contribuer au bien commun », a déclaré Niel lors de la conférence de presse.

Bien entendu, ce n’est pas le premier laboratoire de recherche ouvert sur l’IA. OpenAI, comme son nom l’indique, a commencé comme une organisation à but non lucratif. Mais les choses ont radicalement changé après que Sam Altman a commencé à travailler à temps plein sur OpenAI en 2019. OpenAI est passé à une structure d’entreprise plus traditionnelle et a levé des fonds auprès de Microsoft.

D’autres sociétés ont également travaillé sur des modèles fondamentaux open source, comme Meta avec son modèle Llama et Mistral AI. Les modèles de Kyutai seront également open source, mais les chercheurs qualifient leur travail de science ouverte. Ils prévoient de publier des modèles open source, mais également le code source de formation et les données expliquant comment ils ont publié ces modèles.

« En ce qui concerne le calendrier, je ne pense pas que notre objectif soit nécessairement d’aller aussi vite que Mistral, car notre ambition est de fournir un objectif scientifique, une compréhension et une base de code pour expliquer les résultats », a déclaré Defossez lors de la conférence de presse. conférence de presse. Mais ils espèrent avoir quelque chose à partager d’ici un an.

Mazaré, un autre chercheur de l’équipe de Kyutai, décrit toujours le premier modèle open source de Mistral AI comme un succès car de nombreux membres de la communauté l’ont peaufiné et exploré des cas d’utilisation basés sur le modèle Mistral 7B.

Il sera également intéressant de voir si un laboratoire de recherche est plus efficace que les entreprises privées pour publier des modèles fondamentaux, et comment les entreprises privées vont tirer parti des travaux de Kyutai pour des applications commerciales.

Crédits images : Romain Dillet/TechCrunch

« Je crois également fermement à l’open source et nous devons en faire un atout français », a déclaré le président français Emmanuel Macron dans un message vidéo préenregistré lors de la conférence.

La position de la France : réguler les cas d’usage, pas les modèles

Macron a également profité de cette occasion pour définir et défendre la position de la France sur la loi européenne sur l’IA, affirmant que les cas d’utilisation devraient être réglementés, et non les modélistes. La France a fait pression pour édulcorer la loi sur l’IA lors de trilogues (un trilogue est une négociation entre les trois principales instances européennes, le Parlement, la Commission et le Conseil).

« La réglementation n’est pas l’ennemie de l’innovation, bien au contraire. Il ne s’agit pas de définir de bons modèles, mais il faut veiller à ce que les services mis à la disposition de nos citoyens soient sûrs pour eux, pour les autres acteurs économiques et pour notre démocratie », a déclaré Macron.

« Alors que les travaux sur la réglementation européenne de l’intelligence artificielle sont actuellement en « trilogues », la réglementation doit être contrôlée et non punitive, pour préserver l’innovation et réguler les usages plutôt que la technologie en tant que telle », a-t-il ajouté.

Niel s’est fondamentalement rangé du côté de la France sur ce sujet lors de la conférence de presse. Selon lui, l’Europe est à la traîne en matière d’innovation en matière d’IA, et la réglementation ralentira les nouveaux arrivants européens et réduira leurs chances de rattraper leur retard.

« Pour l’instant, nous sommes plus dans la partie innovation que dans la partie régulation. Créer une réglementation signifie créer des barrières pour les concurrents », a déclaré Niel.

Peut-être que si les entreprises françaises d’IA connaissent un succès massif, les choses pourraient changer. « J’adorerais qu’un jour nous puissions parler de l’impérialisme français dans l’IA », a ajouté Niel plus tard dans la conversation.

Crédits images : Romain Dillet/TechCrunch

Source-146