{"id":7282,"date":"2023-10-28T18:05:42","date_gmt":"2023-10-28T16:05:42","guid":{"rendered":"https:\/\/toukiela.com\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/"},"modified":"2023-10-28T18:05:43","modified_gmt":"2023-10-28T16:05:43","slug":"ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point","status":"publish","type":"post","link":"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/","title":{"rendered":"IA Titans accordent une (minuscule) attention aux chercheurs en s\u00e9curit\u00e9 IA : vous ne devinerez jamais \u00e0 quel point !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Sommaire<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1f13f7ae5f\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1f13f7ae5f\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Un_nouveau_fonds_de_recherche_sur_levaluation_des_modeles_dIA\" >Un nouveau fonds de recherche sur l\u2019\u00e9valuation des mod\u00e8les d\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Un_soutien_financier_pour_les_chercheurs\" >Un soutien financier pour les chercheurs<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Administration_du_fonds\" >Administration du fonds<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Un_appel_a_contributions\" >Un appel \u00e0 contributions<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Comparaison_avec_les_investissements_commerciaux\" >Comparaison avec les investissements commerciaux<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Comparaison_avec_dautres_subventions_de_securite_de_lIA\" >Comparaison avec d\u2019autres subventions de s\u00e9curit\u00e9 de l\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Le_cout_eleve_de_la_recherche_sur_la_securite_de_lIA\" >Le co\u00fbt \u00e9lev\u00e9 de la recherche sur la s\u00e9curit\u00e9 de l\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/toukiela.com\/fr_be\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/#Un_potentiel_fonds_plus_important_a_lavenir\" >Un potentiel fonds plus important \u00e0 l\u2019avenir<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Un_nouveau_fonds_de_recherche_sur_levaluation_des_modeles_dIA\"><\/span>Un nouveau fonds de recherche sur l\u2019\u00e9valuation des mod\u00e8les d\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Le Frontier Model Forum, un organisme de l\u2019industrie ax\u00e9 sur l\u2019\u00e9tude des mod\u00e8les d\u2019IA \u00ab\u00a0fronti\u00e8res\u00a0\u00bb tels que GPT-4 et ChatGPT, a annonc\u00e9 aujourd\u2019hui qu\u2019il s\u2019engageait \u00e0 verser 10 millions de dollars pour un nouveau fonds visant \u00e0 faire avancer la recherche sur les outils d\u2019\u00e9valuation des mod\u00e8les d\u2019IA les plus performants.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_soutien_financier_pour_les_chercheurs\"><\/span>Un soutien financier pour les chercheurs<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Le fonds, selon le Frontier Model Forum \u2013 dont les membres incluent Anthropic, Google, Microsoft et OpenAI \u2013 soutiendra les chercheurs affili\u00e9s \u00e0 des institutions acad\u00e9miques, des institutions de recherche et des startups. Le financement initial proviendra \u00e0 la fois du Frontier Model Forum et de ses partenaires philanthropiques, la Patrick J. McGovern Foundation, la David and Lucile Packard Foundation, l\u2019ancien PDG de Google Eric Schmidt et le milliardaire estonien Jaan Tallinn.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Administration_du_fonds\"><\/span>Administration du fonds<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Le fonds sera administr\u00e9 par le Meridian Institute, une organisation \u00e0 but non lucratif bas\u00e9e \u00e0 Washington, D.C., qui lancera un appel \u00e0 propositions \u00ab\u00a0dans les prochains mois\u00a0\u00bb, selon le Frontier Model Forum. Le travail de l\u2019Institut sera soutenu par un comit\u00e9 consultatif d\u2019experts externes, d\u2019experts des entreprises d\u2019IA et de \u00ab\u00a0personnes ayant une exp\u00e9rience en mati\u00e8re de financement de projets\u00a0\u00bb, a ajout\u00e9 le Frontier Model Forum, sans pr\u00e9ciser qui sont exactement ces experts et personnes ni la taille du comit\u00e9 consultatif en question.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_appel_a_contributions\"><\/span>Un appel \u00e0 contributions<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\u00ab\u00a0Nous nous attendons \u00e0 des contributions suppl\u00e9mentaires de la part d\u2019autres partenaires\u00a0\u00bb, indique un communiqu\u00e9 de presse publi\u00e9 par le Frontier Model Forum sur plusieurs blogs officiels. \u00ab\u00a0L\u2019objectif principal du fonds sera de soutenir le d\u00e9veloppement de nouvelles \u00e9valuations et techniques de mod\u00e9lisation\u2026 afin de d\u00e9velopper et de tester des techniques d\u2019\u00e9valuation pour les capacit\u00e9s potentiellement dangereuses des syst\u00e8mes fronti\u00e8res.\u00a0\u00bb<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Comparaison_avec_les_investissements_commerciaux\"><\/span>Comparaison avec les investissements commerciaux<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>En effet, 10 millions de dollars ne sont pas n\u00e9gligeables. (Plus pr\u00e9cis\u00e9ment, il s\u2019agit de 10 millions de dollars de promesses \u2013 la David and Lucile Packard Foundation n\u2019a pas encore officiellement engag\u00e9 de financement.) Mais dans le contexte de la recherche sur la s\u00e9curit\u00e9 de l\u2019IA, cela semble plut\u00f4t, eh bien, conservateur \u2013 du moins par rapport \u00e0 ce que les membres du Frontier Model Forum ont d\u00e9pens\u00e9 pour leurs activit\u00e9s commerciales.<\/p>\n<p>Cette ann\u00e9e seulement, Anthropic a lev\u00e9 des milliards de dollars aupr\u00e8s d\u2019Amazon pour d\u00e9velopper un assistant IA de nouvelle g\u00e9n\u00e9ration, \u00e0 la suite d\u2019un investissement de 300 millions de dollars de Google. Microsoft a promis 10 milliards de dollars \u00e0 OpenAI, et OpenAI \u2013 dont le chiffre d\u2019affaires annuel d\u00e9passe largement 1 milliard de dollars \u2013 serait en pourparlers pour vendre des actions, ce qui porterait sa valorisation \u00e0 pr\u00e8s de 90 milliards de dollars.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Comparaison_avec_dautres_subventions_de_securite_de_lIA\"><\/span>Comparaison avec d\u2019autres subventions de s\u00e9curit\u00e9 de l\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Le fonds est \u00e9galement petit par rapport \u00e0 d\u2019autres subventions de s\u00e9curit\u00e9 de l\u2019IA. Open Philanthropy, la fondation de financement et de recherche cofond\u00e9e par le fondateur de Facebook, Dustin Moskovitz, a fait don d\u2019environ 307 millions de dollars pour la s\u00e9curit\u00e9 de l\u2019IA, selon une analyse sur le blog Less Wrong. The Survival and Flourishing Fund, une soci\u00e9t\u00e9 \u00e0 but lucratif financ\u00e9e principalement par Tallinn, a donn\u00e9 environ 30 millions de dollars \u00e0 des projets de s\u00e9curit\u00e9 de l\u2019IA. Et la National Science Foundation des \u00c9tats-Unis a d\u00e9clar\u00e9 qu\u2019elle d\u00e9penserait 20 millions de dollars pour la recherche sur la s\u00e9curit\u00e9 de l\u2019IA au cours des deux prochaines ann\u00e9es, avec le soutien de subventions d\u2019Open Philanthropy.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_cout_eleve_de_la_recherche_sur_la_securite_de_lIA\"><\/span>Le co\u00fbt \u00e9lev\u00e9 de la recherche sur la s\u00e9curit\u00e9 de l\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Les chercheurs en s\u00e9curit\u00e9 de l\u2019IA ne formeront pas n\u00e9cessairement des mod\u00e8les de niveau GPT-4 \u00e0 partir de z\u00e9ro. Mais m\u00eame des mod\u00e8les plus petits et moins performants qu\u2019ils pourraient souhaiter tester seraient co\u00fbteux \u00e0 d\u00e9velopper avec les \u00e9quipements actuels, avec des co\u00fbts allant de centaines de milliers de dollars \u00e0 des millions. Cela ne prend pas en compte les autres frais g\u00e9n\u00e9raux, tels que les salaires des chercheurs. (Les data scientists ne sont pas bon march\u00e9.)<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_potentiel_fonds_plus_important_a_lavenir\"><\/span>Un potentiel fonds plus important \u00e0 l\u2019avenir<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Le Frontier Model Forum fait allusion \u00e0 un fonds plus important \u00e0 l\u2019avenir. Si cela se concr\u00e9tise, il pourrait avoir une chance de faire avancer la recherche sur la s\u00e9curit\u00e9 de l\u2019IA \u2013 \u00e0 condition que les promoteurs du fonds \u00e0 but lucratif s\u2019abstiennent d\u2019exercer une influence indue sur la recherche. Mais quoi qu\u2019il en soit, la tranche initiale semble bien trop limit\u00e9e pour accomplir grand-chose.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":7284,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-7282","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/7282","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/comments?post=7282"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/7282\/revisions"}],"predecessor-version":[{"id":7283,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/7282\/revisions\/7283"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media\/7284"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media?parent=7282"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/categories?post=7282"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/tags?post=7282"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}