Découvrez le laboratoire de recherche français Kyutai avec un budget de 330 millions de dollars qui rendra tout en open source !

Xavier Niel dévoile plus de détails sur son laboratoire de recherche en IA

Lors de la conférence ai-PULSE de Scaleway ce matin, Xavier Niel, milliardaire français et PDG d’Iliad, a donné quelques détails supplémentaires sur ses projets pour un laboratoire de recherche en IA basé à Paris.

Ce nouveau laboratoire, appelé Kyutai, sera un organisme à but non lucratif financé par des fonds privés et travaillera sur l’intelligence artificielle générale. Il collaborera avec des étudiants en doctorat, des post-doctorants et des chercheurs sur des articles de recherche et des projets open source. Lorsque Iliad a dévoilé ce laboratoire de recherche, l’entreprise a annoncé que Niel s’engageait à hauteur de 100 millions d’euros dans ce projet (109 millions de dollars au taux de change actuel).

« Grâce à des amis incroyables qui sont présents aujourd’hui, nous nous rapprochons désormais de 300 millions d’euros pour le financement de cette initiative », a déclaré Niel lors de la conférence. Parmi ces « amis » se trouve un autre milliardaire français, Rodolphe Saadé, PDG du géant français de la logistique et du transport maritime CMA CGM, qui investit également 100 millions d’euros. Il y a d’autres contributeurs plus petits, tels que la fondation d’Eric Schmidt et certains donateurs anonymes.

Ce n’est qu’un point de départ, car Kyutai est ouvert à d’autres dons. « Ce qui est intéressant avec autant de journalistes dans la salle, c’est que le projet pourrait potentiellement intéresser d’autres investisseurs », a déclaré Saadé lors d’une conférence de presse après l’annonce.

Des modèles fondamentaux et une puissance de calcul nécessaire

Comme Kyutai travaillera sur des modèles fondamentaux, il aura également besoin de puissance de calcul. La bonne nouvelle est que Scaleway, la division cloud d’Iliad, a récemment acquis mille GPU Nvidia H100. Ces GPU haut de gamme sont essentiels pour l’inférence et l’entraînement des modèles et seront disponibles à un coût abordable pour Kyutai.

Kyutai a déjà commencé à recruter pour son équipe scientifique principale. Ce matin, six hommes sont montés sur scène pour parler de leurs travaux antérieurs et de ce qu’ils envisagent pour le laboratoire de recherche – Patrick Perez, Edouard Grave, Hervé Jegou, Laurent Mazaré, Neil Zeghidour et Alexandre Defossez. Ils ont précédemment travaillé pour l’équipe de recherche en IA de Meta FAIR, la division DeepMind de Google, Inria, etc.

Patrick Perez, qui a travaillé précédemment pour Valeo, sera le directeur du laboratoire de recherche. Kyutai a également constitué une équipe de conseillers scientifiques qui sont des chercheurs en IA bien connus – Yejin Choi, Yann LeCun et Bernhard Schölkopf. Ils vérifieront simplement le travail de chacun une ou deux fois par an et donneront leur avis.

Une approche de la recherche ouverte

Une des raisons pour lesquelles Kyutai pense pouvoir convaincre certains chercheurs de rejoindre son laboratoire est que ces derniers pourront publier des articles de recherche. « Malheureusement, les grandes entreprises de technologie tolèrent de moins en moins les publications scientifiques. Au-delà de la valorisation de l’ego des chercheurs, cela contribue à faire progresser la recherche et à contribuer au bien commun », a déclaré Niel lors de la conférence de presse.

Bien sûr, ce n’est pas le premier laboratoire de recherche en IA ouvert. OpenAI, comme son nom l’indique encore, a commencé en tant qu’organisme à but non lucratif. Mais les choses ont radicalement changé lorsque Sam Altman a commencé à travailler à plein temps pour OpenAI en 2019. OpenAI est passé à une structure d’entreprise plus traditionnelle et a levé des fonds auprès de Microsoft.

D’autres entreprises travaillent également sur des modèles fondamentaux open source, telles que Meta avec son modèle Llama et Mistral AI. Les modèles de Kyutai seront également open source, mais les chercheurs décrivent leur travail comme une science ouverte. Ils prévoient de publier des modèles open source, mais aussi le code source d’entraînement et les données qui expliquent comment ils ont élaboré ces modèles.

« En ce qui concerne le calendrier, je ne pense pas que notre objectif soit nécessairement d’aller aussi vite que Mistral, car notre ambition est de fournir un objectif scientifique, une compréhension et une base de code pour expliquer les résultats », a déclaré Defossez lors de la conférence de presse. Mais ils prévoient de pouvoir partager quelque chose dans l’année.

Mazaré, un autre chercheur de l’équipe de Kyutai, a encore décrit le premier modèle open source de Mistral AI comme un succès car de nombreux membres de la communauté l’ont peaufiné et exploré des cas d’utilisation basés sur le modèle Mistral 7B.

Il sera également intéressant de voir si un laboratoire de recherche est plus efficace pour la publication de modèles fondamentaux par rapport aux entreprises privées, et comment les entreprises privées vont exploiter le travail de Kyutai pour des applications commerciales.

La position de la France : réguler les cas d’utilisation, pas les modèles

Macron a également profité de cette occasion pour définir et défendre la position de la France sur la loi européenne sur l’IA, en affirmant que les cas d’utilisation devraient être réglementés, et non les créateurs de modèles. La France a cherché à atténuer la loi sur l’IA lors des trilogues (une négociation entre les trois principales instances européennes, le Parlement, la Commission et le Conseil).

« La régulation n’est pas l’ennemie de l’innovation, bien au contraire. Il ne s’agit pas de définir de bons modèles, mais nous devons nous assurer que les services mis à disposition de nos citoyens sont sûrs pour eux, pour les autres acteurs économiques et pour notre démocratie », a déclaré Macron.

« Avec les travaux en cours sur la réglementation européenne en matière d’intelligence artificielle, la réglementation doit être maîtrisée et non punitive, afin de préserver l’innovation et de réguler l’utilisation plutôt que la technologie en tant que telle », a-t-il ajouté.

Niel s’est en quelque sorte rangé du côté de la position de la France sur ce sujet lors de la conférence de presse. Selon lui, l’Europe est à la traîne en matière d’innovation en IA et la réglementation freinera les nouveaux arrivants européens et réduira leurs chances de rattraper leur retard.

« Pour l’instant, nous nous concentrons davantage sur l’innovation que sur la régulation. La création de réglementations crée des barrières à l’entrée pour les concurrents », a déclaré Niel.

Peut-être que si les entreprises françaises en IA connaissent un succès massif, les choses pourraient changer. « J’aimerais que l’on puisse un jour parler d’impérialisme français en matière d’IA », a ajouté Niel plus tard dans la conversation.