{"id":6003,"date":"2023-09-17T18:45:24","date_gmt":"2023-09-17T16:45:24","guid":{"rendered":"https:\/\/toukiela.com\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/"},"modified":"2023-09-17T18:45:25","modified_gmt":"2023-09-17T16:45:25","slug":"revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees","status":"publish","type":"post","link":"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/","title":{"rendered":"R\u00e9volutionnaire : l&rsquo;IA Patronus cr\u00e9e un outil d&rsquo;\u00e9valuation LLM pour les industries r\u00e9glement\u00e9es !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Contents<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1d968b8f41\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1d968b8f41\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Une_solution_pour_evaluer_et_tester_les_grands_modeles_de_langage\" >Une solution pour \u00e9valuer et tester les grands mod\u00e8les de langage<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Les_fondateurs_et_leur_expertise\" >Les fondateurs et leur expertise<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Un_cadre_de_securite_et_danalyse_pour_les_modeles_de_langage\" >Un cadre de s\u00e9curit\u00e9 et d\u2019analyse pour les mod\u00e8les de langage<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Les_trois_etapes_du_produit\" >Les trois \u00e9tapes du produit<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Concentration_sur_les_industries_hautement_reglementees\" >Concentration sur les industries hautement r\u00e9glement\u00e9es<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Devenir_un_tiers_de_confiance\" >Devenir un tiers de confiance<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Une_equipe_en_croissance\" >Une \u00e9quipe en croissance<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/toukiela.com\/en\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/#Le_financement\" >Le financement<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Une_solution_pour_evaluer_et_tester_les_grands_modeles_de_langage\"><\/span>Une solution pour \u00e9valuer et tester les grands mod\u00e8les de langage<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Il s\u2019av\u00e8re que lorsque deux experts en intelligence artificielle, qui ont tous deux travaill\u00e9 chez Meta sur la recherche en intelligence artificielle responsable, se r\u00e9unissent, il se passe quelque chose de magique. Les fondateurs de Patronus AI se sont r\u00e9unis en mars dernier pour d\u00e9velopper une solution visant \u00e0 \u00e9valuer et tester les grands mod\u00e8les de langage, en particulier dans les industries r\u00e9glement\u00e9es o\u00f9 il y a peu de tol\u00e9rance pour les erreurs.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_fondateurs_et_leur_expertise\"><\/span>Les fondateurs et leur expertise<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Rebecca Qian, qui est CTO de l\u2019entreprise, a dirig\u00e9 la recherche sur le NLP responsable chez Meta AI, tandis que son cofondateur et PDG Anand Kannappan a contribu\u00e9 au d\u00e9veloppement de cadres de ML explicables chez Meta Reality Labs. Aujourd\u2019hui, leur start-up fait une grande annonce, sortant de l\u2019ombre, rendant leur produit g\u00e9n\u00e9ralement disponible et annon\u00e7ant \u00e9galement une lev\u00e9e de fonds de 3 millions de dollars.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_cadre_de_securite_et_danalyse_pour_les_modeles_de_langage\"><\/span>Un cadre de s\u00e9curit\u00e9 et d\u2019analyse pour les mod\u00e8les de langage<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>L\u2019entreprise se trouve au bon endroit au bon moment, en construisant un cadre de s\u00e9curit\u00e9 et d\u2019analyse sous la forme d\u2019un service g\u00e9r\u00e9 pour tester les grands mod\u00e8les de langage afin d\u2019identifier les zones qui pourraient poser probl\u00e8me, en particulier la probabilit\u00e9 d\u2019hallucinations, o\u00f9 le mod\u00e8le invente une r\u00e9ponse parce qu\u2019il manque de donn\u00e9es pour r\u00e9pondre correctement.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_trois_etapes_du_produit\"><\/span>Les trois \u00e9tapes du produit<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\u00ab Dans notre produit, nous cherchons vraiment \u00e0 automatiser et \u00e0 mettre \u00e0 l\u2019\u00e9chelle tout le processus d\u2019\u00e9valuation et de test des mod\u00e8les pour alerter les utilisateurs lorsque nous identifions des probl\u00e8mes \u00bb, explique Qian \u00e0 nous.<\/p>\n<p>Elle explique que cela implique trois \u00e9tapes. \u00ab La premi\u00e8re consiste \u00e0 \u00e9valuer, o\u00f9 nous aidons r\u00e9ellement les utilisateurs \u00e0 \u00e9valuer les mod\u00e8les dans des sc\u00e9narios du monde r\u00e9el, tels que la finance, en examinant des crit\u00e8res cl\u00e9s tels que les hallucinations \u00bb, dit-elle. Ensuite, le produit g\u00e9n\u00e8re automatiquement des cas de test, c\u2019est-\u00e0-dire qu\u2019il g\u00e9n\u00e8re automatiquement des ensembles de tests adversaires et soumet les mod\u00e8les \u00e0 des tests de stress. Enfin, il effectue des comparaisons entre les mod\u00e8les en utilisant diff\u00e9rents crit\u00e8res, en fonction des exigences, pour trouver le meilleur mod\u00e8le pour une t\u00e2che donn\u00e9e. \u00ab Nous comparons diff\u00e9rents mod\u00e8les pour aider les utilisateurs \u00e0 identifier le meilleur mod\u00e8le pour leur cas d\u2019utilisation sp\u00e9cifique. Par exemple, un mod\u00e8le peut avoir un taux d\u2019\u00e9chec plus \u00e9lev\u00e9 et des hallucinations par rapport \u00e0 un autre mod\u00e8le de base diff\u00e9rent \u00bb, dit-elle.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Concentration_sur_les_industries_hautement_reglementees\"><\/span>Concentration sur les industries hautement r\u00e9glement\u00e9es<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>L\u2019entreprise se concentre sur les industries hautement r\u00e9glement\u00e9es o\u00f9 les mauvaises r\u00e9ponses pourraient avoir de grandes cons\u00e9quences. \u00ab Nous aidons les entreprises \u00e0 s\u2019assurer que les grands mod\u00e8les de langage qu\u2019ils utilisent sont s\u00fbrs. Nous d\u00e9tectons les cas o\u00f9 leurs mod\u00e8les produisent des informations sensibles pour l\u2019entreprise et des sorties inappropri\u00e9es \u00bb, explique Kannappan.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Devenir_un_tiers_de_confiance\"><\/span>Devenir un tiers de confiance<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Il dit que l\u2019objectif de la start-up est de devenir un tiers de confiance lorsqu\u2019il s\u2019agit d\u2019\u00e9valuer les mod\u00e8les. \u00ab Il est facile pour quelqu\u2019un de dire que son LLM est le meilleur, mais il doit y avoir une perspective impartiale et ind\u00e9pendante. C\u2019est l\u00e0 que nous intervenons. Patronus est le gage de cr\u00e9dibilit\u00e9 \u00bb, dit-il.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Une_equipe_en_croissance\"><\/span>Une \u00e9quipe en croissance<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>L\u2019entreprise compte actuellement six employ\u00e9s \u00e0 temps plein, mais compte tenu de la rapidit\u00e9 avec laquelle le secteur se d\u00e9veloppe, ils pr\u00e9voient d\u2019embaucher davantage de personnes dans les mois \u00e0 venir sans s\u2019engager sur un nombre exact. Qian d\u00e9clare que la diversit\u00e9 est un pilier cl\u00e9 de l\u2019entreprise. \u00ab C\u2019est quelque chose qui nous tient \u00e0 c\u0153ur. Et cela commence au niveau de la direction chez Patronus. \u00c0 mesure que nous grandissons, nous avons l\u2019intention de continuer \u00e0 mettre en place des programmes et des initiatives pour nous assurer que nous cr\u00e9ons et maintenons un environnement de travail inclusif \u00bb, dit-elle.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_financement\"><\/span>Le financement<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>La lev\u00e9e de fonds de 3 millions de dollars a \u00e9t\u00e9 dirig\u00e9e par Lightspeed Venture Partners, avec la participation de Factorial Capital et d\u2019autres investisseurs du secteur.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":6005,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-6003","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/6003","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/comments?post=6003"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/6003\/revisions"}],"predecessor-version":[{"id":6004,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/6003\/revisions\/6004"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media\/6005"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media?parent=6003"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/categories?post=6003"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/tags?post=6003"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}