{"id":7282,"date":"2023-10-28T18:05:42","date_gmt":"2023-10-28T16:05:42","guid":{"rendered":"https:\/\/toukiela.com\/ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point\/"},"modified":"2023-10-28T18:05:43","modified_gmt":"2023-10-28T16:05:43","slug":"ia-titans-accordent-une-minuscule-attention-aux-chercheurs-en-securite-ia-vous-ne-devinerez-jamais-a-quel-point","status":"publish","type":"post","link":"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/","title":{"rendered":"KI-Titanen schenken KI-Sicherheitsforschern (winzige) Aufmerksamkeit: Sie werden nie erraten, wie sehr!"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Inhaltsverzeichnis<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f227835bbcd\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f227835bbcd\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Un_nouveau_fonds_de_recherche_sur_levaluation_des_modeles_dIA\" >Ein neuer Forschungsfonds zur Bewertung von KI-Modellen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Un_soutien_financier_pour_les_chercheurs\" >Finanzielle Unterst\u00fctzung f\u00fcr Forscher<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Administration_du_fonds\" >Verwaltung des Fonds<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Un_appel_a_contributions\" >Ein Aufruf zur Einreichung von Beitr\u00e4gen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Comparaison_avec_les_investissements_commerciaux\" >Vergleich mit kommerziellen Investitionen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Comparaison_avec_dautres_subventions_de_securite_de_lIA\" >Vergleich mit anderen KI-Sicherheitszusch\u00fcssen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Le_cout_eleve_de_la_recherche_sur_la_securite_de_lIA\" >Die hohen Kosten der Forschung zur Sicherheit von KI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/toukiela.com\/de\/ia-titans-gewahren-eine-minuskleine-aufmerksamkeit-auf-die-sicherheits-forscher-ia-sie-werden-nie-erraten-welchen-punkt-sie-haben\/#Un_potentiel_fonds_plus_important_a_lavenir\" >Gr\u00f6\u00dferes Fondspotenzial in der Zukunft<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Un_nouveau_fonds_de_recherche_sur_levaluation_des_modeles_dIA\"><\/span>Ein neuer Forschungsfonds zur Bewertung von KI-Modellen<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Das Frontier Model Forum, eine Branchenorganisation, die sich auf die Erforschung von \"Grenz\"-KI-Modellen wie GPT-4 und ChatGPT konzentriert, gab heute bekannt, dass sie 10 Millionen US-Dollar f\u00fcr einen neuen Fonds bereitstellen wird, der die Forschung zu den besten Tools f\u00fcr die Bewertung von KI-Modellen vorantreiben soll.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_soutien_financier_pour_les_chercheurs\"><\/span>Finanzielle Unterst\u00fctzung f\u00fcr Forscher<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Der Fonds wird laut dem Frontier Model Forum - zu dessen Mitgliedern Anthropic, Google, Microsoft und OpenAI geh\u00f6ren - Forscher unterst\u00fctzen, die mit akademischen Institutionen, Forschungseinrichtungen und Start-ups verbunden sind. Die Anfangsfinanzierung wird sowohl vom Frontier Model Forum als auch von seinen philanthropischen Partnern, der Patrick J. McGovern Foundation, der David and Lucile Packard Foundation, dem ehemaligen Google-Chef Eric Schmidt und dem estnischen Milliard\u00e4r Jaan Tallinn stammen.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Administration_du_fonds\"><\/span>Verwaltung des Fonds<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Der Fonds wird vom Meridian Institute, einer gemeinn\u00fctzigen Organisation mit Sitz in Washington, D.C., verwaltet, die laut Frontier Model Forum \"in den n\u00e4chsten Monaten\" eine Aufforderung zur Einreichung von Vorschl\u00e4gen ver\u00f6ffentlichen wird. Die Arbeit des Instituts wird von einem Beirat aus externen Experten, Experten aus KI-Unternehmen und \"Personen mit Erfahrung in der Projektfinanzierung\" unterst\u00fctzt, f\u00fcgte das Frontier Model Forum hinzu, ohne zu sagen, wer genau diese Experten und Personen sind oder wie gro\u00df der betreffende Beirat ist.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_appel_a_contributions\"><\/span>Ein Aufruf zur Einreichung von Beitr\u00e4gen<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\"Wir erwarten zus\u00e4tzliche Beitr\u00e4ge von anderen Partnern\", hei\u00dft es in einer Pressemitteilung, die das Frontier Model Forum auf mehreren offiziellen Blogs ver\u00f6ffentlicht hat. \"Das Hauptziel des Fonds wird es sein, die Entwicklung neuer Bewertungen und Modellierungstechniken zu unterst\u00fctzen ... um Bewertungstechniken f\u00fcr die potenziell gef\u00e4hrlichen F\u00e4higkeiten von Grenzsystemen zu entwickeln und zu testen.\"<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Comparaison_avec_les_investissements_commerciaux\"><\/span>Vergleich mit kommerziellen Investitionen<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>In der Tat sind 10 Millionen US-Dollar nicht unerheblich. (Genauer gesagt handelt es sich um 10 Millionen Dollar an Zusagen - die David and Lucile Packard Foundation hat noch keine offizielle Finanzierungszusage gemacht). Im Kontext der Forschung zur KI-Sicherheit erscheint dies jedoch eher, nun ja, konservativ - zumindest im Vergleich zu dem, was die Mitglieder des Frontier Model Forum f\u00fcr ihre kommerziellen Aktivit\u00e4ten ausgegeben haben.<\/p>\n<p>Allein in diesem Jahr hat Anthropic Milliarden von Dollar von Amazon aufgebracht, um einen KI-Assistenten der n\u00e4chsten Generation zu entwickeln, nachdem Google 300 Millionen Dollar investiert hatte. Microsoft hat OpenAI 10 Milliarden US-Dollar zugesagt, und OpenAI - mit einem Jahresumsatz von weit \u00fcber 1 Milliarde US-Dollar - soll sich in Gespr\u00e4chen \u00fcber den Verkauf von Aktien befinden, wodurch seine Bewertung auf fast 90 Milliarden US-Dollar steigen w\u00fcrde.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Comparaison_avec_dautres_subventions_de_securite_de_lIA\"><\/span>Vergleich mit anderen KI-Sicherheitszusch\u00fcssen<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Der Fonds ist auch im Vergleich zu anderen Zusch\u00fcssen f\u00fcr KI-Sicherheit klein. Open Philanthropy, die von Facebook-Gr\u00fcnder Dustin Moskovitz mitgegr\u00fcndete Finanzierungs- und Forschungsstiftung, spendete laut einer Analyse auf dem Blog Less Wrong rund 307 Millionen US-Dollar f\u00fcr KI-Sicherheit. The Survival and Flourishing Fund, eine gemeinn\u00fctzige Gesellschaft, die haupts\u00e4chlich von Tallinn finanziert wird, spendete rund 30 Millionen US-Dollar f\u00fcr Projekte zur KI-Sicherheit. Und die National Science Foundation der USA erkl\u00e4rte, dass sie in den n\u00e4chsten zwei Jahren 20 Millionen US-Dollar f\u00fcr die Forschung im Bereich KI-Sicherheit ausgeben werde, unterst\u00fctzt durch Zusch\u00fcsse von Open Philanthropy.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_cout_eleve_de_la_recherche_sur_la_securite_de_lIA\"><\/span>Die hohen Kosten der Forschung zur Sicherheit von KI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Forscher im Bereich der KI-Sicherheit werden nicht unbedingt Modelle der Stufe GPT-4 von Grund auf trainieren. Aber selbst kleinere und weniger leistungsf\u00e4hige Modelle, die sie vielleicht testen m\u00f6chten, w\u00e4ren mit der heutigen Ausr\u00fcstung teuer zu entwickeln, wobei die Kosten von Hunderttausenden bis zu Millionen Dollar reichen. Dabei sind andere Gemeinkosten, wie z. B. die Geh\u00e4lter der Forscher, noch nicht ber\u00fccksichtigt. (Datenwissenschaftler sind nicht billig).<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_potentiel_fonds_plus_important_a_lavenir\"><\/span>Gr\u00f6\u00dferes Fondspotenzial in der Zukunft<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Das Frontier Model Forum deutet an, dass es in Zukunft einen gr\u00f6\u00dferen Fonds geben wird. Wenn es dazu kommt, k\u00f6nnte er eine Chance haben, die Forschung zur KI-Sicherheit voranzutreiben - vorausgesetzt, die F\u00f6rderer des gewinnorientierten Fonds verzichten auf eine unangemessene Einflussnahme auf die Forschung. Aber wie dem auch sei, die anf\u00e4ngliche Tranche scheint viel zu gering zu sein, um viel zu erreichen.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":7284,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-7282","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/7282","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/comments?post=7282"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/7282\/revisions"}],"predecessor-version":[{"id":7283,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/7282\/revisions\/7283"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/media\/7284"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/media?parent=7282"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/categories?post=7282"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/tags?post=7282"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}