Explosion du déploiement hors ligne des LLMs grâce à Giga ML – Les entreprises en bénéficieront énormément !

Une plateforme pour déployer des modèles de langage

Les modèles de langage génératifs basés sur l’intelligence artificielle (IA), également connus sous le nom de grands modèles de langage (LLM), sont de plus en plus populaires. Selon une récente enquête menée auprès d’environ 1 000 entreprises, 67,2% d’entre elles considèrent l’adoption de LLM comme une priorité absolue d’ici début 2024.

Des obstacles à l’adoption de LLM

Cependant, certaines barrières empêchent les entreprises de déployer ces modèles. Selon la même enquête, le manque de personnalisation et de flexibilité, ainsi que l’incapacité à préserver les connaissances et la propriété intellectuelle de l’entreprise, sont des obstacles majeurs.

Une solution pour les entreprises

C’est en réfléchissant à ces défis que Varun Vummadi et Esha Manideep Dinne ont fondé Giga ML. Cette startup développe une plateforme permettant aux entreprises de déployer des LLM en interne, ce qui permet de réduire les coûts et de préserver la confidentialité des données.

Des avantages pour les entreprises

Giga ML propose sa propre série de LLM, la série « X1 », pour des tâches telles que la génération de code et la réponse aux questions courantes des clients. La startup affirme que ses modèles surpassent les LLM populaires sur certains critères de performance. Cependant, il est difficile de comparer qualitativement les modèles de Giga ML, car il y a eu des problèmes techniques lors de l’utilisation de la démonstration en ligne.

Des outils pour affiner les LLM

En discutant avec Varun Vummadi, il apparaît que Giga ML ne cherche pas tant à créer les meilleurs LLM du marché, mais plutôt à fournir des outils permettant aux entreprises d’affiner ces modèles localement, sans avoir à dépendre de ressources et de plateformes tierces.

Avantages de la confidentialité

Varun Vummadi met l’accent sur les avantages de la confidentialité offerts par l’exécution des modèles hors ligne. Cela peut être un argument convaincant pour de nombreuses entreprises qui hésitent à utiliser des LLM commerciaux en raison de préoccupations concernant le partage de données sensibles ou propriétaires.

Une solution sécurisée et personnalisée

Giga ML propose un déploiement des LLM sur site et dans le cloud privé des entreprises. La startup simplifie le processus d’entraînement, d’affinage et d’exécution des LLM grâce à une interface API facile à utiliser.

Financement et développement

Giga ML a déjà levé environ 3,74 millions de dollars auprès de plusieurs investisseurs. La startup prévoit de développer rapidement son équipe et de renforcer ses activités de recherche et développement. Une partie du financement sera également consacrée au soutien de la base de clients actuelle de Giga ML, qui comprend notamment des entreprises du secteur financier et de la santé.