{"id":6597,"date":"2023-10-07T10:24:58","date_gmt":"2023-10-07T08:24:58","guid":{"rendered":"https:\/\/toukiela.com\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/"},"modified":"2023-10-07T10:24:58","modified_gmt":"2023-10-07T08:24:58","slug":"vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs","status":"publish","type":"post","link":"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/","title":{"rendered":"Vera desvela su impactante proyecto: \u00a1utilizar la IA para erradicar los comportamientos m\u00e1s perturbadores de los modelos generativos!"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Contenido<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1f923e34b0\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1f923e34b0\"  aria-label=\"Alternar\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Liz_OSullivan_et_sa_mission_pour_rendre_lIA_plus_sure\" >Liz O'Sullivan y su misi\u00f3n de hacer m\u00e1s segura la IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Vera_une_startup_qui_vise_a_securiser_lIA_generative\" >Vera: una start-up que pretende asegurar la IA generativa<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Un_financement_de_27_millions_de_dollars_pour_Vera\" >2,7 millones de euros para Vera<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Lapproche_de_Vera_pour_securiser_lIA_generative\" >El enfoque de Vera para garantizar la IA generativa<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Les_defis_de_ladoption_de_lIA_generative_pour_les_entreprises\" >Los retos de la adopci\u00f3n de la IA generativa para las empresas<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Les_concurrents_de_Vera_sur_le_marche_de_la_moderation_des_modeles_dIA\" >Competidores de Vera en el mercado de la moderaci\u00f3n de modelos de IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Les_eventuelles_limites_de_Vera\" >Limitaciones potenciales de Vera<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/toukiela.com\/es\/vera-devoile-s-sa-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Conclusion\" >Conclusi\u00f3n<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Liz_OSullivan_et_sa_mission_pour_rendre_lIA_plus_sure\"><\/span>Liz O'Sullivan y su misi\u00f3n de hacer m\u00e1s segura la IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Liz O'Sullivan es miembro del Comit\u00e9 Asesor Nacional sobre IA, que elabora recomendaciones para la Casa Blanca y el Congreso sobre c\u00f3mo impulsar la adopci\u00f3n de la IA al tiempo que se regulan sus riesgos. Durante 12 a\u00f1os, O'Sullivan trabaj\u00f3 en startups de IA, supervisando el etiquetado de datos, las operaciones y el \u00e9xito de los clientes. En 2019, se uni\u00f3 al Surveillance Technology Oversight Project, lanzando campa\u00f1as para proteger las libertades civiles de los neoyorquinos, y cofund\u00f3 Arthur AI, una startup que colabora con la sociedad civil y el mundo acad\u00e9mico para arrojar luz sobre la \"caja negra\" de la IA.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Vera_une_startup_qui_vise_a_securiser_lIA_generative\"><\/span>Vera: una start-up que pretende asegurar la IA generativa<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Hoy, O'Sullivan se prepara para su pr\u00f3xima aventura con Vera, una start-up que est\u00e1 desarrollando un conjunto de herramientas que permite a las empresas establecer \"pol\u00edticas de uso aceptable\" para la IA generativa -el tipo de modelos de IA que generan texto, im\u00e1genes, m\u00fasica, etc.- y aplicar estas pol\u00edticas a modelos de c\u00f3digo abierto y personalizados. - y aplicarlas a modelos de c\u00f3digo abierto y personalizados.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_financement_de_27_millions_de_dollars_pour_Vera\"><\/span>2,7 millones de euros para Vera<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Vera acaba de cerrar una ronda de financiaci\u00f3n de 2,7 millones de d\u00f3lares, liderada por Differential Venture Partners y con la participaci\u00f3n de Essence VC, Everywhere VC, Betaworks, Greycroft y ATP Ventures. Seg\u00fan O'Sullivan, esta \u00faltima inyecci\u00f3n de liquidez, que eleva la recaudaci\u00f3n total de Vera a 3,3 millones de d\u00f3lares, se utilizar\u00e1 para ampliar el equipo de Vera, formado por cinco personas, para investigaci\u00f3n y desarrollo y para ampliar las implantaciones en empresas.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Lapproche_de_Vera_pour_securiser_lIA_generative\"><\/span>El enfoque de Vera para garantizar la IA generativa<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Vera intenta identificar los riesgos asociados a las entradas de los modelos -por ejemplo, una solicitud como \"escriba una carta de presentaci\u00f3n para un puesto de ingeniero de software\" a un modelo de generaci\u00f3n de texto- y bloquear, censurar o transformar las solicitudes que podr\u00edan contener informaci\u00f3n personal, informaci\u00f3n de seguridad, propiedad intelectual y ataques de inyecci\u00f3n de solicitudes. Vera tambi\u00e9n impone restricciones a las respuestas de los modelos para dar a las empresas un mayor control sobre c\u00f3mo se comportan sus modelos en producci\u00f3n.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_defis_de_ladoption_de_lIA_generative_pour_les_entreprises\"><\/span>Los retos de la adopci\u00f3n de la IA generativa para las empresas<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Las empresas se enfrentan a retos, principalmente relacionados con el cumplimiento de la normativa, a la hora de adoptar modelos generativos de IA. Temen que sus datos confidenciales acaben en manos de desarrolladores que hayan entrenado los modelos con datos de usuarios. Recientemente, grandes empresas como Apple, Walmart y Verizon han prohibido a sus empleados el uso de herramientas como ChatGPT de OpenAI. Los modelos ofensivos tambi\u00e9n da\u00f1an la reputaci\u00f3n de la marca. Ninguna empresa quiere que el modelo de generaci\u00f3n de texto que alimenta su chatbot de atenci\u00f3n al cliente profiera insultos racistas o d\u00e9 consejos autodestructivos.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_concurrents_de_Vera_sur_le_marche_de_la_moderation_des_modeles_dIA\"><\/span>Competidores de Vera en el mercado de la moderaci\u00f3n de modelos de IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Vera no es la \u00fanica empresa que ofrece soluciones de moderaci\u00f3n de modelos en el incipiente mercado de la IA generativa. Nvidia ofrece NeMo Guardrails y Salesforce ofrece Einstein Trust Layer, que intentan evitar que los modelos de generaci\u00f3n de texto retengan o reproduzcan datos sensibles. Microsoft tambi\u00e9n ofrece un servicio de IA para moderar el contenido de texto e im\u00e1genes, incluido el generado por plantillas. Adem\u00e1s, start-ups como HiddenLayer, DynamoFL y Protect AI est\u00e1n desarrollando herramientas para defender los modelos generativos de IA contra los ataques de inyecci\u00f3n de consultas.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_eventuelles_limites_de_Vera\"><\/span>Limitaciones potenciales de Vera<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Aunque Vera tiene sus ventajas, es importante se\u00f1alar que los modelos de IA no son perfectos y est\u00e1n sujetos a muchos sesgos. Algunos modelos de IA dise\u00f1ados para detectar la toxicidad en el texto consideran \"t\u00f3xicas\" de forma desproporcionada las frases en ingl\u00e9s vern\u00e1culo afroamericano, la gram\u00e1tica informal utilizada por algunos afroamericanos. Adem\u00e1s, se ha descubierto que algunos algoritmos de visi\u00f3n por ordenador se refieren a los term\u00f3metros que sostienen las personas de raza negra como \"armas\", mientras que se refieren a los term\u00f3metros que sostienen los sujetos de piel clara como \"dispositivos electr\u00f3nicos\".<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Conclusion\"><\/span>Conclusi\u00f3n<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Aunque Vera no es infalible, ofrece un enfoque integral para combatir las amenazas de la IA generativa. Si la tecnolog\u00eda funciona como se anuncia, podr\u00eda resultar atractiva para las empresas que buscan una soluci\u00f3n completa para moderar contenidos y combatir los ataques a los modelos de IA. Por ahora, Vera ya cuenta con algunos clientes y ha abierto una lista de espera para otras empresas interesadas. Seg\u00fan O'Sullivan, Vera libera las capacidades de la IA generativa con la aplicaci\u00f3n de pol\u00edticas de seguridad que pueden transferirse no solo a los modelos actuales, sino tambi\u00e9n a los futuros, sin depender de un \u00fanico proveedor.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":6599,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-6597","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/6597","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/comments?post=6597"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/6597\/revisions"}],"predecessor-version":[{"id":6598,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/6597\/revisions\/6598"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/media\/6599"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/media?parent=6597"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/categories?post=6597"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/tags?post=6597"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}