{"id":7861,"date":"2023-11-17T10:25:53","date_gmt":"2023-11-17T08:25:53","guid":{"rendered":"https:\/\/toukiela.com\/decouvrez-loutil-revolutionnaire-des-martiens-qui-reduit-automatiquement-les-couts-en-passant-dun-llm-a-un-autre\/"},"modified":"2023-11-17T10:25:54","modified_gmt":"2023-11-17T08:25:54","slug":"decouvrez-loutil-revolutionnaire-des-martiens-qui-reduit-automatiquement-les-couts-en-passant-dun-llm-a-un-autre","status":"publish","type":"post","link":"https:\/\/toukiela.com\/de\/decouvrirz-loutil-revolutionnaire-des-martiens-qureduits-automatiquement-les-couts-en-sur-passant-dun-llm-a-un-autre\/","title":{"rendered":"Entdecken Sie das revolution\u00e4re Tool der Marsmenschen, das die Kosten beim Wechsel von einer LLM zu einer anderen automatisch senkt!"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Sommaire<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1f93c2ccf0\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1f93c2ccf0\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/de\/decouvrirz-loutil-revolutionnaire-des-martiens-qureduits-automatiquement-les-couts-en-sur-passant-dun-llm-a-un-autre\/#Des_chercheurs_en_IA_fondent_une_entreprise_pour_promouvoir_la_recherche_fondamentale\" >Des chercheurs en IA fondent une entreprise pour promouvoir la recherche fondamentale<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/de\/decouvrirz-loutil-revolutionnaire-des-martiens-qureduits-automatiquement-les-couts-en-sur-passant-dun-llm-a-un-autre\/#La_recherche_en_IA_rentable\" >La recherche en IA rentable<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/de\/decouvrirz-loutil-revolutionnaire-des-martiens-qureduits-automatiquement-les-couts-en-sur-passant-dun-llm-a-un-autre\/#Martian_leve_9_millions_de_dollars_pour_la_recherche_en_IA\" >Martian l\u00e8ve 9 millions de dollars pour la recherche en IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/de\/decouvrirz-loutil-revolutionnaire-des-martiens-qureduits-automatiquement-les-couts-en-sur-passant-dun-llm-a-un-autre\/#Le_premier_produit_de_Martian\" >Le premier produit de Martian<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/de\/decouvrirz-loutil-revolutionnaire-des-martiens-qureduits-automatiquement-les-couts-en-sur-passant-dun-llm-a-un-autre\/#Un_meilleur_rapport_cout-performance\" >Un meilleur rapport co\u00fbt-performance<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/de\/decouvrirz-loutil-revolutionnaire-des-martiens-qureduits-automatiquement-les-couts-en-sur-passant-dun-llm-a-un-autre\/#Ladoption_de_Martian\" >L\u2019adoption de Martian<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Des_chercheurs_en_IA_fondent_une_entreprise_pour_promouvoir_la_recherche_fondamentale\"><\/span>Des chercheurs en IA fondent une entreprise pour promouvoir la recherche fondamentale<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Shriyash Upadhyay et Etan Ginsberg, chercheurs en IA \u00e0 l\u2019Universit\u00e9 de Pennsylvanie, estiment que de nombreuses grandes entreprises d\u2019IA sacrifient la recherche fondamentale au profit du d\u00e9veloppement de mod\u00e8les d\u2019IA comp\u00e9titifs et puissants. Selon eux, la dynamique du march\u00e9 pousse les entreprises \u00e0 consacrer la majeure partie de leurs fonds \u00e0 rester en avance sur leurs concurrents plut\u00f4t qu\u2019\u00e0 \u00e9tudier les fondamentaux.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"La_recherche_en_IA_rentable\"><\/span>La recherche en IA rentable<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\u00ab Au cours de nos recherches sur les LLM [\u00e0 l\u2019Universit\u00e9 de Pennsylvanie], nous avons observ\u00e9 ces tendances pr\u00e9occupantes dans l\u2019industrie de l\u2019IA \u00bb, ont d\u00e9clar\u00e9 Upadhyay et Ginsberg dans une interview par courrier \u00e9lectronique \u00e0 nous. \u00ab Le d\u00e9fi consiste \u00e0 rendre la recherche en IA rentable. \u00bb<\/p>\n<p>Les deux chercheurs ont pens\u00e9 que la meilleure fa\u00e7on de relever ce d\u00e9fi pourrait \u00eatre de fonder leur propre entreprise, une entreprise dont les produits b\u00e9n\u00e9ficieraient de l\u2019interpr\u00e9tabilit\u00e9. Ils ont hypoth\u00e9tis\u00e9 que la mission de l\u2019entreprise serait naturellement align\u00e9e sur la promotion de la recherche en interpr\u00e9tabilit\u00e9 plut\u00f4t que sur la recherche de capacit\u00e9s, ce qui permettrait d\u2019obtenir de meilleures recherches.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Martian_leve_9_millions_de_dollars_pour_la_recherche_en_IA\"><\/span>Martian l\u00e8ve 9 millions de dollars pour la recherche en IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Cette entreprise, Martian, est aujourd\u2019hui sortie de l\u2019ombre avec 9 millions de dollars de financement provenant d\u2019investisseurs tels que NEA, Prosus Ventures, Carya Venture Partners et General Catalyst. Les fonds sont utilis\u00e9s pour le d\u00e9veloppement de produits, la recherche sur les op\u00e9rations internes des mod\u00e8les et l\u2019agrandissement de l\u2019\u00e9quipe de 10 personnes de Martian, selon Upadhyay et Ginsberg.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_premier_produit_de_Martian\"><\/span>Le premier produit de Martian<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Le premier produit de Martian est un \u00ab\u00a0routeur de mod\u00e8les\u00a0\u00bb, un outil qui prend une instruction destin\u00e9e \u00e0 un grand mod\u00e8le de langage (LLM) \u2013 disons GPT-4 \u2013 et le route automatiquement vers le \u00ab\u00a0meilleur\u00a0\u00bb LLM. Par d\u00e9faut, le routeur de mod\u00e8les choisit le LLM avec le meilleur temps de disponibilit\u00e9, comp\u00e9tences (par exemple, la r\u00e9solution de probl\u00e8mes math\u00e9matiques) et rapport co\u00fbt-performance pour l\u2019instruction en question.<\/p>\n<p>\u00ab Les entreprises utilisent actuellement les LLM en choisissant un seul LLM pour chaque point de terminaison vers lequel elles envoient toutes leurs demandes \u00bb, ont expliqu\u00e9 Upadhyay et Ginsberg. \u00ab Mais dans une t\u00e2che comme la cr\u00e9ation d\u2019un site web, diff\u00e9rents mod\u00e8les seront mieux adapt\u00e9s \u00e0 une demande sp\u00e9cifique en fonction du contexte sp\u00e9cifi\u00e9 par l\u2019utilisateur (quelle langue, quelles fonctionnalit\u00e9s, combien ils sont pr\u00eats \u00e0 payer, etc.)\u2026 En utilisant une \u00e9quipe de mod\u00e8les dans une application, une entreprise peut obtenir de meilleures performances et des co\u00fbts plus faibles que n\u2019importe quel LLM seul. \u00bb<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_meilleur_rapport_cout-performance\"><\/span>Un meilleur rapport co\u00fbt-performance<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Il y a du vrai l\u00e0-dedans. S\u2019appuyer exclusivement sur un LLM haut de gamme comme GPT-4 peut \u00eatre prohibitif en termes de co\u00fbts pour certaines entreprises, voire pour la plupart. Le PDG de Permutable.ai, une entreprise de renseignement sur le march\u00e9, a r\u00e9cemment r\u00e9v\u00e9l\u00e9 qu\u2019il co\u00fbtait \u00e0 l\u2019entreprise plus d\u2019un million de dollars par an pour traiter environ 2 millions d\u2019articles par jour \u00e0 l\u2019aide de mod\u00e8les haut de gamme d\u2019OpenAI.<\/p>\n<p>Toutes les t\u00e2ches n\u2019ont pas besoin de la puissance des mod\u00e8les les plus chers, mais il peut \u00eatre difficile de construire un syst\u00e8me qui bascule intelligemment en cours de route. C\u2019est l\u00e0 que Martian intervient, avec sa capacit\u00e9 \u00e0 estimer les performances d\u2019un mod\u00e8le sans r\u00e9ellement l\u2019ex\u00e9cuter.<\/p>\n<p>\u00ab Martian peut router vers des mod\u00e8les moins chers pour des demandes qui donnent des performances similaires aux mod\u00e8les les plus chers, et ne router vers des mod\u00e8les chers que lorsque c\u2019est n\u00e9cessaire \u00bb, ont-ils ajout\u00e9. \u00ab Le routeur de mod\u00e8les indexe les nouveaux mod\u00e8les au fur et \u00e0 mesure de leur sortie, les incorporant dans les applications sans aucune friction ou travail manuel n\u00e9cessaire. \u00bb<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Ladoption_de_Martian\"><\/span>L\u2019adoption de Martian<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Le routeur de mod\u00e8les de Martian n\u2019est pas une nouvelle technologie. Au moins une autre startup, Credal, propose un outil de commutation automatique de mod\u00e8les. Son succ\u00e8s d\u00e9pendra de la comp\u00e9titivit\u00e9 de la tarification de Martian et de sa capacit\u00e9 \u00e0 fonctionner dans des sc\u00e9narios commerciaux \u00e0 enjeux \u00e9lev\u00e9s.<\/p>\n<p>Upadhyay et Ginsberg affirment qu\u2019il y a d\u00e9j\u00e0 eu une certaine adoption, y compris parmi les entreprises \u00ab multinationales \u00bb.<\/p>\n<p>\u00ab Construire un routeur de mod\u00e8les vraiment efficace est extr\u00eamement difficile car cela n\u00e9cessite de d\u00e9velopper une compr\u00e9hension de la fa\u00e7on dont ces mod\u00e8les fonctionnent fondamentalement \u00bb, ont-ils d\u00e9clar\u00e9. \u00ab C\u2019est la perc\u00e9e que nous avons r\u00e9alis\u00e9e. \u00bb<\/p>\n\n\n","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":7863,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-7861","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/7861","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/comments?post=7861"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/7861\/revisions"}],"predecessor-version":[{"id":7862,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/7861\/revisions\/7862"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/media\/7863"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/media?parent=7861"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/categories?post=7861"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/tags?post=7861"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}