{"id":7282,"date":"2023-10-28T18:05:42","date_gmt":"2023-10-28T16:05:42","guid":{"rendered":"https:\/\/toukiela.com\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/"},"modified":"2023-10-28T18:05:43","modified_gmt":"2023-10-28T16:05:43","slug":"ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point","status":"publish","type":"post","link":"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/","title":{"rendered":"Los Titanes de la IA prestan una atenci\u00f3n (\u00ednfima) a los investigadores de seguridad de la IA: \u00a1nunca adivinar\u00edas hasta qu\u00e9 punto!"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Contenido<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f21a1c6534f\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f21a1c6534f\"  aria-label=\"Alternar\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Un_nouveau_fonds_de_recherche_sur_levaluation_des_modeles_dIA\" >Un nuevo fondo de investigaci\u00f3n para la evaluaci\u00f3n de modelos de IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Un_soutien_financier_pour_les_chercheurs\" >Apoyo financiero a los investigadores<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Administration_du_fonds\" >Administraci\u00f3n de fondos<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Un_appel_a_contributions\" >Petici\u00f3n de contribuciones<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Comparaison_avec_les_investissements_commerciaux\" >Comparaci\u00f3n con las inversiones comerciales<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Comparaison_avec_dautres_subventions_de_securite_de_lIA\" >Comparaci\u00f3n con otras ayudas a la seguridad de la IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Le_cout_eleve_de_la_recherche_sur_la_securite_de_lIA\" >El elevado coste de la investigaci\u00f3n sobre seguridad de la IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/toukiela.com\/es\/ia-titanes-dan-una-minuscula-atencion-a-los-investigadores-de-seguridad-ia-nunca-sabras-en-que-punto-2\/#Un_potentiel_fonds_plus_important_a_lavenir\" >Mayor potencial de fondos en el futuro<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Un_nouveau_fonds_de_recherche_sur_levaluation_des_modeles_dIA\"><\/span>Un nuevo fondo de investigaci\u00f3n para la evaluaci\u00f3n de modelos de IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El Frontier Model Forum, una organizaci\u00f3n del sector centrada en el estudio de modelos de IA \"de frontera\" como GPT-4 y ChatGPT, ha anunciado hoy que ha destinado 10 millones de d\u00f3lares a un nuevo fondo para avanzar en la investigaci\u00f3n de herramientas que permitan evaluar los mejores modelos de IA.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_soutien_financier_pour_les_chercheurs\"><\/span>Apoyo financiero a los investigadores<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El fondo, seg\u00fan el Frontier Model Forum -entre cuyos miembros figuran Anthropic, Google, Microsoft y OpenAI- apoyar\u00e1 a investigadores afiliados a instituciones acad\u00e9micas, centros de investigaci\u00f3n y empresas de nueva creaci\u00f3n. La financiaci\u00f3n inicial proceder\u00e1 tanto del Frontier Model Forum como de sus socios filantr\u00f3picos, la Fundaci\u00f3n Patrick J. McGovern, la Fundaci\u00f3n David y Lucile Packard, el antiguo CEO de Google Eric Schmidt y el multimillonario estonio Jaan Tallinn.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Administration_du_fonds\"><\/span>Administraci\u00f3n de fondos<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El fondo ser\u00e1 administrado por el Meridian Institute, una organizaci\u00f3n sin \u00e1nimo de lucro con sede en Washington D.C., que publicar\u00e1 una convocatoria de propuestas \"en los pr\u00f3ximos meses\", seg\u00fan el Frontier Model Forum. El trabajo del Instituto contar\u00e1 con el apoyo de un consejo asesor de expertos externos, expertos en empresas de IA y \"personas con experiencia en la financiaci\u00f3n de proyectos\", a\u00f1adi\u00f3 el Frontier Model Forum, sin especificar exactamente qui\u00e9nes son estos expertos y personas ni el tama\u00f1o del consejo asesor en cuesti\u00f3n.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_appel_a_contributions\"><\/span>Petici\u00f3n de contribuciones<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\"Esperamos contribuciones adicionales de otros socios\", dice un comunicado de prensa publicado por el Frontier Model Forum en varios blogs oficiales. \"El principal objetivo del fondo ser\u00e1 apoyar el desarrollo de nuevas evaluaciones y t\u00e9cnicas de modelizaci\u00f3n... para desarrollar y probar t\u00e9cnicas de evaluaci\u00f3n de las capacidades potencialmente peligrosas de los sistemas fronterizos\".<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Comparaison_avec_les_investissements_commerciaux\"><\/span>Comparaci\u00f3n con las inversiones comerciales<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>En efecto, 10 millones de d\u00f3lares no es poco. (M\u00e1s exactamente, son 10 millones de d\u00f3lares en promesas; la Fundaci\u00f3n David y Lucile Packard a\u00fan no ha comprometido oficialmente la financiaci\u00f3n). Pero en el contexto de la investigaci\u00f3n sobre la seguridad de la IA, parece bastante conservador, al menos comparado con lo que los miembros del Frontier Model Forum han gastado en sus actividades comerciales.<\/p>\n<p>Este mismo a\u00f1o, Anthropic recaud\u00f3 miles de millones de d\u00f3lares de Amazon para desarrollar un asistente de IA de nueva generaci\u00f3n, tras una inversi\u00f3n de 300 millones de d\u00f3lares de Google. Microsoft ha prometido 10.000 millones de d\u00f3lares a OpenAI, que tiene unas ventas anuales de m\u00e1s de 1.000 millones de d\u00f3lares y est\u00e1 en conversaciones para vender acciones, lo que elevar\u00eda su valoraci\u00f3n a casi 90.000 millones de d\u00f3lares.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Comparaison_avec_dautres_subventions_de_securite_de_lIA\"><\/span>Comparaci\u00f3n con otras ayudas a la seguridad de la IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El fondo tambi\u00e9n es peque\u00f1o en comparaci\u00f3n con otras subvenciones a la seguridad de la IA. Open Philanthropy, la fundaci\u00f3n de financiaci\u00f3n e investigaci\u00f3n cofundada por el fundador de Facebook, Dustin Moskovitz, ha donado unos 307 millones de d\u00f3lares a la seguridad de la IA, seg\u00fan un an\u00e1lisis del blog Less Wrong. The Survival and Flourishing Fund, una empresa con \u00e1nimo de lucro financiada principalmente por Tallinn, ha donado unos 30 millones de d\u00f3lares a proyectos de seguridad de la IA. Y la Fundaci\u00f3n Nacional de la Ciencia de EE.UU. ha declarado que destinar\u00e1 20 millones de d\u00f3lares a la investigaci\u00f3n de la seguridad de la IA en los pr\u00f3ximos dos a\u00f1os, con el apoyo de subvenciones de Open Philanthropy.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_cout_eleve_de_la_recherche_sur_la_securite_de_lIA\"><\/span>El elevado coste de la investigaci\u00f3n sobre seguridad de la IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Los investigadores de seguridad de IA no necesariamente entrenar\u00e1n modelos de nivel GPT-4 desde cero. Pero incluso los modelos m\u00e1s peque\u00f1os y menos capaces que podr\u00edan querer probar ser\u00edan caros de desarrollar con los equipos actuales, con costes que van desde cientos de miles de d\u00f3lares a millones. Esto sin tener en cuenta otros gastos generales, como los salarios de los investigadores. (Los cient\u00edficos de datos no son baratos).<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_potentiel_fonds_plus_important_a_lavenir\"><\/span>Mayor potencial de fondos en el futuro<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El Frontier Model Forum insin\u00faa la creaci\u00f3n de un fondo mayor en el futuro. Si se materializa, podr\u00eda tener la oportunidad de hacer avanzar la investigaci\u00f3n sobre la seguridad de la IA, siempre que los patrocinadores del fondo con \u00e1nimo de lucro se abstengan de ejercer una influencia indebida en la investigaci\u00f3n. Pero en cualquier caso, el tramo inicial parece demasiado limitado para lograr mucho.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":7284,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-7282","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/7282","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/comments?post=7282"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/7282\/revisions"}],"predecessor-version":[{"id":7283,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/posts\/7282\/revisions\/7283"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/media\/7284"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/media?parent=7282"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/categories?post=7282"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/es\/wp-json\/wp\/v2\/tags?post=7282"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}