Découvrez pourquoi Flip AI a créé un énorme modèle de langage personnalisé pour propulser sa plateforme d’observabilité !

Flip AI lance un nouveau produit basé sur l’observation des systèmes d’entreprise

L’observabilité est un terme à la mode dans les cercles informatiques de nos jours, mais cela implique essentiellement de surveiller les systèmes d’une entreprise, de rechercher des problèmes ou de trouver la cause des problèmes après leur survenue – et ils surviennent tout le temps, ralentissant parfois un site ou une application, et, dans le pire des cas, les mettant hors ligne.

Une approche innovante pour résoudre le problème

De nombreuses startups et entreprises établies tentent de résoudre ce problème, mais Flip AI apporte une nouvelle approche à cette catégorie. La startup en phase de démarrage a développé son propre modèle linguistique, spécialement conçu pour résoudre le problème de l’observation des systèmes.

Aujourd’hui, l’entreprise a annoncé que son produit était disponible en général, ainsi qu’un investissement initial de 6,5 millions de dollars qui n’avait pas été précédemment annoncé.

Une solution intelligente et automatisée

Le PDG et co-fondateur Corey Harrison affirme qu’aujourd’hui, malgré le nombre d’outils disponibles, les entreprises utilisent souvent des processus très manuels pour suivre les données entre les systèmes. Lui et ses co-fondateurs, le directeur technique Sunil Mallya et le directeur des produits Deap Ubhi, ont vu une opportunité d’utiliser l’intelligence et l’automatisation pour accélérer le temps de résolution.

« Les grandes entreprises utilisent [de nombreux] outils, mais rencontrent encore des difficultés lorsqu’il s’agit de résoudre réellement les incidents », a déclaré Harrison à Toukiela. Selon lui, ce problème est souvent plus aigu dans les grandes organisations où il existe plus d’outils et où les données résident souvent dans différents systèmes, ce qui rend particulièrement difficile la recherche de la cause du problème sans beaucoup de requêtes manuelles.

En construisant un grand modèle linguistique entraîné sur des données DevOps, ils pensent pouvoir accélérer le processus de résolution des problèmes et le temps de récupération. « Nous avons notre propre grand modèle linguistique – nous n’utilisons pas OpenAI ou autre chose – que nous avons entraîné sur plus de 100 milliards de jetons de données spécifiques à DevOps, comme les journaux, les métriques, les données de traçage, les fichiers de configuration, etc. Il peut ensuite rationaliser de la même manière que les humains étaient censés interroger entre les systèmes », a déclaré Harrison.

Résultat : un outil qui analyse les données entre les systèmes et génère une analyse de la cause première en moins d’une minute et généralement en seulement quelques secondes, selon Harrison. Il affirme également qu’ils laissent les données en place, nécessitant simplement un accès en lecture pour effectuer l’analyse.

Harrison reconnaît qu’aucun modèle ne peut être toujours exact, mais il affirme qu’ils donnent le cheminement suivi par le modèle pour obtenir la réponse, de sorte qu’un développeur humain puisse vérifier le travail effectué. « Donc, même si l’analyse de la cause première n’est pas correcte à 100 %, nous avons déjà localisé l’erreur, nous avons exécuté les requêtes et extrait des données d’exemple. Nous avons donc déjà effectué 90 % du travail pour vous », a-t-il déclaré.

Une équipe expérimentée

Former votre propre modèle de langage est une idée ambitieuse, mais Mallya et Ubhi ont tous deux travaillé précédemment chez Amazon, où Mallya était responsable d’Amazon Comprehend, le service de traitement du langage naturel de l’entreprise, et Ubhi était directeur de la gestion des produits. Harrison possède également une solide expérience technique, ayant travaillé récemment en tant que vice-président des opérations et chef de cabinet du commissaire de la NFL.

L’entreprise compte actuellement 20 employés répartis entre San Francisco et Bangalore, en Inde. En pleine croissance, elle cherche à équilibrer la demande des clients, qui est assez bonne selon Harrison, tout en avançant de manière méthodique. Harrison, qui est noir, reconnaît certainement le manque de diversité sur le marché des emplois technologiques, quelque chose dont il dit qu’il pense beaucoup. « Étant donné mon parcours et les personnes qui m’ont aidé à arriver là où je suis, et un ensemble diversifié de personnes qui m’ont aidé à arriver là où je suis, je veux m’assurer que Flip AI a le même niveau de diversité, voire plus », a-t-il déclaré.

L’investissement initial de 6,5 millions de dollars a été dirigé par Factory avec la participation du Morgan Stanley Next Level Fund et de GTM Capital.