{"id":6003,"date":"2023-09-17T18:45:24","date_gmt":"2023-09-17T16:45:24","guid":{"rendered":"https:\/\/toukiela.com\/revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees\/"},"modified":"2023-09-17T18:45:25","modified_gmt":"2023-09-17T16:45:25","slug":"revolutionnaire-lia-patronus-cree-un-outil-devaluation-llm-pour-les-industries-reglementees","status":"publish","type":"post","link":"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/","title":{"rendered":"\u00a1Revolucionario: Patronus AI crea una herramienta de evaluaci\u00f3n LLM para industrias reguladas!"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Contenido<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1f944eb9c2\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1f944eb9c2\"  aria-label=\"Alternar\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Une_solution_pour_evaluer_et_tester_les_grands_modeles_de_langage\" >Una soluci\u00f3n para evaluar y probar grandes modelos ling\u00fc\u00edsticos<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Les_fondateurs_et_leur_expertise\" >Los fundadores y su experiencia<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Un_cadre_de_securite_et_danalyse_pour_les_modeles_de_langage\" >Marco de seguridad y an\u00e1lisis para modelos ling\u00fc\u00edsticos<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Les_trois_etapes_du_produit\" >Las tres fases del producto<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Concentration_sur_les_industries_hautement_reglementees\" >Centrarse en sectores muy regulados<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Devenir_un_tiers_de_confiance\" >Convertirse en un tercero de confianza<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Une_equipe_en_croissance\" >Un equipo en crecimiento<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/toukiela.com\/es\/revolutionary-lia-patronus-creates-a-llm-assessment-tool-for-regulated-industries\/#Le_financement\" >Financiaci\u00f3n<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Une_solution_pour_evaluer_et_tester_les_grands_modeles_de_langage\"><\/span>Una soluci\u00f3n para evaluar y probar grandes modelos ling\u00fc\u00edsticos<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Resulta que cuando se juntan dos expertos en IA, que trabajaron ambos en Meta en investigaciones sobre IA responsable, ocurre algo m\u00e1gico. Los fundadores de Patronus AI se reunieron el pasado marzo para desarrollar una soluci\u00f3n que permitiera evaluar y probar grandes modelos ling\u00fc\u00edsticos, sobre todo en sectores regulados en los que hay poca tolerancia al error.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_fondateurs_et_leur_expertise\"><\/span>Los fundadores y su experiencia<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Rebecca Qian, que es la directora de tecnolog\u00eda de la empresa, dirigi\u00f3 la investigaci\u00f3n responsable de PNL en Meta AI, mientras que el cofundador y consejero delegado Anand Kannappan ayud\u00f3 a desarrollar marcos de ML explicable en Meta Reality Labs. Hoy, su start-up hace un gran anuncio, saliendo de las sombras, poniendo su producto a disposici\u00f3n general y anunciando tambi\u00e9n una ronda de recaudaci\u00f3n de fondos de 3 millones de d\u00f3lares.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_cadre_de_securite_et_danalyse_pour_les_modeles_de_langage\"><\/span>Marco de seguridad y an\u00e1lisis para modelos ling\u00fc\u00edsticos<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>La empresa est\u00e1 en el lugar adecuado en el momento oportuno, construyendo un marco de seguridad y an\u00e1lisis en forma de servicio gestionado para probar grandes modelos ling\u00fc\u00edsticos con el fin de identificar posibles \u00e1reas problem\u00e1ticas, en particular la probabilidad de alucinaciones, en las que el modelo inventa una respuesta porque carece de datos para responder correctamente.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_trois_etapes_du_produit\"><\/span>Las tres fases del producto<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\"En nuestro producto, lo que realmente queremos es automatizar y ampliar todo el proceso de evaluaci\u00f3n y prueba de modelos para alertar a los usuarios cuando identifiquemos problemas\", nos cuenta Qian.<\/p>\n<p>Explica que esto implica tres etapas. \"La primera es la evaluaci\u00f3n, en la que realmente ayudamos a los usuarios a evaluar modelos en escenarios del mundo real, como las finanzas, atendiendo a criterios clave como las alucinaciones\", dice. En segundo lugar, el producto genera autom\u00e1ticamente casos de prueba, es decir, genera autom\u00e1ticamente conjuntos de pruebas adversariales y pruebas de estr\u00e9s de los modelos. Por \u00faltimo, realiza comparaciones entre modelos utilizando distintos criterios, en funci\u00f3n de los requisitos, para encontrar el mejor modelo para una tarea determinada. \"Comparamos diferentes modelos para ayudar a los usuarios a identificar el mejor modelo para su caso de uso espec\u00edfico. Por ejemplo, un modelo puede tener una mayor tasa de fallos y alucinaciones en comparaci\u00f3n con otro modelo con una base diferente\", afirma.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Concentration_sur_les_industries_hautement_reglementees\"><\/span>Centrarse en sectores muy regulados<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>La empresa se centra en sectores muy regulados en los que las respuestas err\u00f3neas podr\u00edan tener grandes consecuencias. \"Ayudamos a las empresas a garantizar la seguridad de los grandes modelos ling\u00fc\u00edsticos que utilizan. Detectamos cu\u00e1ndo sus modelos producen informaci\u00f3n sensible para la empresa y resultados inadecuados\", explica Kannappan.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Devenir_un_tiers_de_confiance\"><\/span>Convertirse en un tercero de confianza<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Dice que el objetivo de la start-up es convertirse en un tercero de confianza a la hora de evaluar modelos. \"Es f\u00e1cil que alguien diga que su LLM es el mejor, pero tiene que haber una perspectiva imparcial e independiente. Ah\u00ed es donde entramos nosotros. Patronus es garant\u00eda de credibilidad\", afirma.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Une_equipe_en_croissance\"><\/span>Un equipo en crecimiento<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>La empresa cuenta actualmente con seis empleados a tiempo completo, pero dada la velocidad a la que se desarrolla el sector, tienen previsto contratar a m\u00e1s personas en los pr\u00f3ximos meses, sin comprometerse a un n\u00famero exacto. Qian afirma que la diversidad es un pilar fundamental de la empresa. \"Es algo que nos tomamos muy en serio. Y empieza a nivel directivo en Patronus. A medida que crecemos, tenemos la intenci\u00f3n de seguir aplicando programas e iniciativas para garantizar que creamos y mantenemos un entorno de trabajo integrador\", afirma.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_financement\"><\/span>Financiaci\u00f3n<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>La ronda de 3 millones de d\u00f3lares fue liderada por Lightspeed Venture Partners, con la participaci\u00f3n de Factorial Capital y otros inversores del sector.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":6005,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-6003","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/6003","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/comments?post=6003"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/6003\/revisions"}],"predecessor-version":[{"id":6004,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/6003\/revisions\/6004"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/media\/6005"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/media?parent=6003"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/categories?post=6003"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/tags?post=6003"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}