Déploiement et ajustement de multiples LLMs : Gradient lève 10 millions de dollars pour révolutionner les entreprises !

Gradient, une startup qui permet aux développeurs de construire et de personnaliser des applications d’IA dans le cloud en utilisant de grands modèles de langage (LLM), a récemment fait son apparition avec un financement de 10 millions de dollars, dirigé par Wing VC avec la participation de Mango Capital, Tokyo Black, The New Normal Fund, Secure Octane et Global Founders Capital.

Chris Chang, PDG de Gradient, a co-fondé l’entreprise avec Mark Huang et Forrest Moret il y a plusieurs mois alors qu’ils travaillaient sur des produits d’IA chez des géants de la technologie tels que Netflix, Splunk et Google. Le trio s’est rendu compte que les LLM, tels que le GPT-4 d’OpenAI, pouvaient transformer les entreprises, mais ils ont estimé qu’il était nécessaire de trouver un moyen fiable d’ajouter des données privées et exclusives à ces modèles.

Traditionnellement, les équipes se sont concentrées sur l’amélioration d’un seul modèle généraliste, et les solutions existantes soutiennent ce modèle », a déclaré Chang à Toukiela par e-mail. « Cela s’explique en grande partie par la complexité de la gestion des systèmes multi-modèles. Cependant, s’appuyer sur un seul modèle n’est pas optimal car il y a un compromis inévitable en termes de performance spécifique à la tâche.

Gradient a été conçu pour faciliter le déploiement à grande échelle de LLM « spécialisés » et ajustés. La plateforme fonctionne dans le cloud, ce qui permet à une organisation de développer et d’intégrer autant de LLM que « des milliers » dans un seul système, selon Chang.

Les clients de Gradient n’ont pas besoin de former les LLM à partir de zéro. La plateforme héberge plusieurs LLM open source, y compris le Llama 2 de Meta, que les utilisateurs peuvent ajuster à leurs besoins. Gradient propose également des modèles destinés à des cas d’utilisation spécifiques (comme la réconciliation des données, la collecte de contexte et le traitement des documents) et à des industries particulières (comme la finance et le droit).

Gradient peut héberger et servir des modèles via une API, à la manière de Hugging Face, CoreWeave et d’autres fournisseurs d’infrastructure IA. Ou il peut déployer des systèmes d’IA dans l’environnement cloud public d’une organisation, que ce soit Google Cloud Platform, Azure ou AWS.

Dans les deux cas, les clients conservent « la pleine propriété » et le contrôle de leurs données et de leurs modèles formés, selon Chang.

« Les obstacles au développement de l’IA sont encore trop élevés aujourd’hui », a-t-il ajouté. « La construction d’une IA personnalisée et performante est inaccessible en raison de la complexité et du coût élevés de la mise en place de l’infrastructure nécessaire et du développement de nouveaux modèles. Nous avons constaté que la grande majorité des entreprises comprennent la valeur que l’IA peut apporter à leur activité, mais ont du mal à réaliser cette valeur en raison de la complexité de l’adoption. Notre plateforme simplifie radicalement l’utilisation de l’IA pour une entreprise, ce qui représente une valeur ajoutée considérable. »

Gradient se démarque-t-il de ses concurrents ?

Maintenant, vous pourriez vous demander – comme ce journaliste l’a fait – ce qui distingue Gradient des autres startups qui développent des outils pour associer des LLM à des données internes ? Et qu’en est-il des nombreuses autres entreprises qui personnalisent déjà des LLM pour des clients professionnels en tant que service ? C’est une question raisonnable.

Prenez par exemple Reka, qui est récemment apparue pour travailler avec des entreprises afin de construire des applications sur mesure alimentées par des LLM. Writer permet aux clients d’ajuster les LLM à leur propre contenu et guides de style. Contextual AI, Fixie et LlamaIndex, qui ont récemment fait leur apparition, développent des outils permettant aux entreprises d’ajouter leurs propres données aux LLM existants. Et Cohere forme des LLM selon les spécifications des clients.

Ils ne sont pas les seuls. OpenAI propose une gamme d’outils de personnalisation de modèles, tout comme les géants de l’industrie tels que Google (via Vertex AI), Amazon (via Bedrock) et Microsoft (via le service Azure OpenAI).

Chang affirme que Gradient est l’une des rares plateformes qui permettent aux entreprises de « mettre en production » plusieurs modèles en même temps. De plus, il affirme que la plateforme est abordable – elle est facturée à la demande, de sorte que les utilisateurs ne paient que pour l’infrastructure qu’ils utilisent. (Les clients plus importants ont la possibilité de payer pour une capacité dédiée.)

Mais même si Gradient ne diffère pas radicalement de ses concurrents dans l’espace du développement de LLM, il bénéficie – et bénéficiera – de l’engouement massif autour de l’IA générative, y compris des LLM. Selon Crunchbase, près d’un cinquième du financement mondial total en capital-risque cette année provient du secteur de l’IA. Et PitchBook prévoit que le marché de l’IA générative atteindra 42,6 milliards de dollars en 2023.

« Gradient facilite grandement le développement de systèmes d’IA complexes qui exploitent de nombreux LLM experts », a déclaré Chang. « Cette approche garantit que le système d’IA atteint systématiquement les meilleures performances pour chaque tâche, le tout dans une seule plateforme… Notre plateforme est conçue pour faciliter extrêmement le déploiement de LLM spécialisés, conçus spécifiquement pour résoudre les problèmes spécifiques de chaque entreprise. »

Gradient affirme travailler avec une vingtaine de clients d’entreprise pour le moment, avec des milliers d’utilisateurs au total. Son objectif à court terme est de développer l’infrastructure cloud et de faire passer son équipe de 17 employés à temps plein à 25 d’ici la fin de l’année.