{"id":10745,"date":"2024-02-18T23:09:13","date_gmt":"2024-02-18T21:09:13","guid":{"rendered":"https:\/\/toukiela.com\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/"},"modified":"2024-02-18T23:09:15","modified_gmt":"2024-02-18T21:09:15","slug":"ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous","status":"publish","type":"post","link":"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/","title":{"rendered":"IA r\u00e9volutionnaire cherche \u00e0 r\u00e9soudre les probl\u00e8mes du mod\u00e8le GenAI en sollicitant l&rsquo;aide de tous !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Sommaire<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1d89e1ec3d\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1d89e1ec3d\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/#GenAI_et_ses_hallucinations_problematiques\" >GenAI et ses hallucinations probl\u00e9matiques<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/#Les_offres_de_produits_pour_contrer_les_hallucinations_de_GenAI\" >Les offres de produits pour contrer les hallucinations de GenAI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/#Guardrails_AI_une_solution_pour_gerer_les_risques_de_deploiement_dIA\" >Guardrails AI : une solution pour g\u00e9rer les risques de d\u00e9ploiement d\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/#Les_freins_a_ladoption_de_GenAI\" >Les freins \u00e0 l\u2019adoption de GenAI<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/#Guardrails_AI_une_approche_differente\" >Guardrails AI : une approche diff\u00e9rente<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/#Le_Hub_de_Guardrails_un_forum_ouvert_pour_partager_des_connaissances\" >Le Hub de Guardrails : un forum ouvert pour partager des connaissances<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/fr_ca\/ia-revolutionnaire-cherche-a-resoudre-les-problemes-du-modele-genai-en-sollicitant-laide-de-tous\/#Le_financement_de_Guardrails_AI_et_les_projets_open_source\" >Le financement de Guardrails AI et les projets open source<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"GenAI_et_ses_hallucinations_problematiques\"><\/span>GenAI et ses hallucinations probl\u00e9matiques<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>La semaine derni\u00e8re, Microsoft et Google ont fourni un exemple de la fa\u00e7on dont GenAI peut d\u00e9clarer un vainqueur du Super Bowl avant m\u00eame que le match ne commence. Cependant, les v\u00e9ritables probl\u00e8mes commencent lorsque les hallucinations de GenAI deviennent nuisibles, en soutenant la torture, en renfor\u00e7ant les st\u00e9r\u00e9otypes ethniques et raciaux et en \u00e9crivant de mani\u00e8re persuasive sur les th\u00e9ories du complot.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_offres_de_produits_pour_contrer_les_hallucinations_de_GenAI\"><\/span>Les offres de produits pour contrer les hallucinations de GenAI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>De plus en plus de fournisseurs, des g\u00e9ants comme Nvidia et Salesforce aux startups comme CalypsoAI, proposent des produits qui pr\u00e9tendent pouvoir att\u00e9nuer les contenus toxiques ind\u00e9sirables g\u00e9n\u00e9r\u00e9s par GenAI. Cependant, ces produits sont des bo\u00eetes noires, et il est impossible de savoir comment ils se comparent les uns aux autres et s\u2019ils tiennent r\u00e9ellement leurs promesses, \u00e0 moins de les tester individuellement.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Guardrails_AI_une_solution_pour_gerer_les_risques_de_deploiement_dIA\"><\/span>Guardrails AI : une solution pour g\u00e9rer les risques de d\u00e9ploiement d\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>Shreya Rajpal a identifi\u00e9 ce probl\u00e8me majeur et a fond\u00e9 une entreprise, Guardrails AI, dans le but de le r\u00e9soudre. Selon elle, de nombreuses organisations luttent pour d\u00e9ployer de mani\u00e8re responsable des applications d\u2019IA et ont du mal \u00e0 trouver la meilleure solution. Elles finissent souvent par r\u00e9inventer la roue pour g\u00e9rer les risques qui leur sont importants.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_freins_a_ladoption_de_GenAI\"><\/span>Les freins \u00e0 l\u2019adoption de GenAI<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>Des enqu\u00eates sugg\u00e8rent que la complexit\u00e9, et par extension le risque, est l\u2019un des principaux obstacles \u00e0 l\u2019adoption de GenAI par les organisations. Une enqu\u00eate r\u00e9cente de la soci\u00e9t\u00e9 Cnvrg.io, filiale d\u2019Intel, a r\u00e9v\u00e9l\u00e9 que la conformit\u00e9 et la confidentialit\u00e9, la fiabilit\u00e9, le co\u00fbt \u00e9lev\u00e9 de la mise en \u0153uvre et le manque de comp\u00e9tences techniques \u00e9taient des pr\u00e9occupations partag\u00e9es par environ un quart des entreprises mettant en \u0153uvre des applications GenAI. Dans une autre enqu\u00eate de Riskonnect, un fournisseur de logiciels de gestion des risques, plus de la moiti\u00e9 des dirigeants ont d\u00e9clar\u00e9 craindre que les employ\u00e9s prennent des d\u00e9cisions bas\u00e9es sur des informations inexactes provenant d\u2019outils GenAI.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Guardrails_AI_une_approche_differente\"><\/span>Guardrails AI : une approche diff\u00e9rente<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>Guardrails AI se distingue des autres acteurs du march\u00e9 par son mod\u00e8le \u00e9conomique open source. Le code de la plateforme de la startup est disponible gratuitement sur GitHub. La soci\u00e9t\u00e9 adopte \u00e9galement une approche participative en permettant aux d\u00e9veloppeurs de soumettre des composants modulaires appel\u00e9s \u00ab\u00a0validateurs\u00a0\u00bb qui examinent les mod\u00e8les GenAI pour v\u00e9rifier certains comportements, crit\u00e8res de conformit\u00e9 et de performance. Ces validateurs peuvent \u00eatre d\u00e9ploy\u00e9s, r\u00e9utilis\u00e9s et adapt\u00e9s par d\u2019autres d\u00e9veloppeurs et clients de Guardrails, servant ainsi de blocs de construction pour des solutions personnalis\u00e9es de mod\u00e9ration des mod\u00e8les GenAI.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_Hub_de_Guardrails_un_forum_ouvert_pour_partager_des_connaissances\"><\/span>Le Hub de Guardrails : un forum ouvert pour partager des connaissances<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>Le Hub de Guardrails permet aux d\u00e9veloppeurs de d\u00e9couvrir les types de risques auxquels d\u2019autres entreprises sont confront\u00e9es et les mesures qu\u2019elles mettent en place pour r\u00e9soudre ces probl\u00e8mes. Les validateurs sont une impl\u00e9mentation open source de ces mesures que les organisations peuvent appliquer \u00e0 leurs cas d\u2019utilisation sp\u00e9cifiques.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Le_financement_de_Guardrails_AI_et_les_projets_open_source\"><\/span>Le financement de Guardrails AI et les projets open source<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><\/p>\n<p>Guardrails AI, qui ne facture pas encore de services ou de logiciels, a r\u00e9cemment lev\u00e9 7,5 millions de dollars lors d\u2019un tour de financement de d\u00e9marrage men\u00e9 par Zetta Venture Partners, avec la participation de Factory, Pear VC, Bloomberg Beta, GitHub Fund et de personnalit\u00e9s telles que l\u2019expert en IA Ian Goodfellow. Selon Shreya Rajpal, les fonds seront utilis\u00e9s pour d\u00e9velopper l\u2019\u00e9quipe de six personnes de Guardrails et pour d\u2019autres projets open source.<\/p>\n<p>La fondatrice de Guardrails AI affirme que de nombreuses personnes, des grandes entreprises aux petites startups et aux d\u00e9veloppeurs individuels, sont bloqu\u00e9es dans le d\u00e9ploiement d\u2019applications GenAI en raison du manque de garanties et de mesures d\u2019att\u00e9nuation des risques n\u00e9cessaires. Elle souhaite r\u00e9soudre ce probl\u00e8me qui n\u2019existait pas \u00e0 cette \u00e9chelle auparavant, en raison de l\u2019av\u00e8nement de ChatGPT et des mod\u00e8les fondamentaux.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":10747,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-10745","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/10745","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/comments?post=10745"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/10745\/revisions"}],"predecessor-version":[{"id":10746,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/10745\/revisions\/10746"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/media\/10747"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/media?parent=10745"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/categories?post=10745"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/tags?post=10745"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}