{"id":6597,"date":"2023-10-07T10:24:58","date_gmt":"2023-10-07T08:24:58","guid":{"rendered":"https:\/\/toukiela.com\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/"},"modified":"2023-10-07T10:24:58","modified_gmt":"2023-10-07T08:24:58","slug":"vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs","status":"publish","type":"post","link":"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/","title":{"rendered":"Vera d\u00e9voile son projet choc : utiliser l&rsquo;IA pour \u00e9radiquer les comportements les plus d\u00e9rangeants des mod\u00e8les g\u00e9n\u00e9ratifs !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Sommaire<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1e4956b32a\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1e4956b32a\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Liz_OSullivan_et_sa_mission_pour_rendre_lIA_plus_sure\" >Liz O\u2019Sullivan et sa mission pour rendre l\u2019IA plus s\u00fbre<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Vera_une_startup_qui_vise_a_securiser_lIA_generative\" >Vera : une startup qui vise \u00e0 s\u00e9curiser l\u2019IA g\u00e9n\u00e9rative<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Un_financement_de_27_millions_de_dollars_pour_Vera\" >Un financement de 2,7 millions de dollars pour Vera<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Lapproche_de_Vera_pour_securiser_lIA_generative\" >L\u2019approche de Vera pour s\u00e9curiser l\u2019IA g\u00e9n\u00e9rative<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Les_defis_de_ladoption_de_lIA_generative_pour_les_entreprises\" >Les d\u00e9fis de l\u2019adoption de l\u2019IA g\u00e9n\u00e9rative pour les entreprises<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Les_concurrents_de_Vera_sur_le_marche_de_la_moderation_des_modeles_dIA\" >Les concurrents de Vera sur le march\u00e9 de la mod\u00e9ration des mod\u00e8les d\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Les_eventuelles_limites_de_Vera\" >Les \u00e9ventuelles limites de Vera<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/toukiela.com\/fr_be\/vera-devoile-son-projet-choc-utiliser-lia-pour-eradiquer-les-comportements-les-plus-derangeants-des-modeles-generatifs\/#Conclusion\" >Conclusion<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Liz_OSullivan_et_sa_mission_pour_rendre_lIA_plus_sure\"><\/span>Liz O\u2019Sullivan et sa mission pour rendre l\u2019IA plus s\u00fbre<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Liz O\u2019Sullivan est membre du comit\u00e9 consultatif national sur l\u2019IA, qui r\u00e9dige des recommandations \u00e0 destination de la Maison Blanche et du Congr\u00e8s sur la mani\u00e8re de favoriser l\u2019adoption de l\u2019IA tout en r\u00e9gulant ses risques. Pendant 12 ans, O\u2019Sullivan a travaill\u00e9 dans des start-ups sp\u00e9cialis\u00e9es en IA, supervisant l\u2019\u00e9tiquetage des donn\u00e9es, les op\u00e9rations et la r\u00e9ussite des clients. En 2019, elle a rejoint le Surveillance Technology Oversight Project, lan\u00e7ant des campagnes pour prot\u00e9ger les libert\u00e9s civiles des New-Yorkais, et a cofond\u00e9 Arthur AI, une start-up qui collabore avec la soci\u00e9t\u00e9 civile et le monde universitaire pour \u00e9clairer la \u00ab\u00a0bo\u00eete noire\u00a0\u00bb de l\u2019IA.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Vera_une_startup_qui_vise_a_securiser_lIA_generative\"><\/span>Vera : une startup qui vise \u00e0 s\u00e9curiser l\u2019IA g\u00e9n\u00e9rative<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Aujourd\u2019hui, O\u2019Sullivan se pr\u00e9pare pour sa prochaine entreprise avec Vera, une start-up qui d\u00e9veloppe une bo\u00eete \u00e0 outils permettant aux entreprises d\u2019\u00e9tablir des \u00ab\u00a0politiques d\u2019utilisation acceptables\u00a0\u00bb pour l\u2019IA g\u00e9n\u00e9rative \u2013 le type de mod\u00e8les d\u2019IA qui g\u00e9n\u00e8rent du texte, des images, de la musique, etc. \u2013 et d\u2019appliquer ces politiques sur des mod\u00e8les open source et personnalis\u00e9s.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Un_financement_de_27_millions_de_dollars_pour_Vera\"><\/span>Un financement de 2,7 millions de dollars pour Vera<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Vera vient de cl\u00f4turer une lev\u00e9e de fonds de 2,7 millions de dollars, dirig\u00e9e par Differential Venture Partners et avec la participation d\u2019Essence VC, Everywhere VC, Betaworks, Greycroft et ATP Ventures. Cette nouvelle injection de liquidit\u00e9s, qui porte le total des fonds lev\u00e9s par Vera \u00e0 3,3 millions de dollars, servira \u00e0 d\u00e9velopper l\u2019\u00e9quipe de cinq personnes de Vera, \u00e0 la recherche et d\u00e9veloppement et \u00e0 l\u2019expansion des d\u00e9ploiements en entreprise, selon O\u2019Sullivan.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Lapproche_de_Vera_pour_securiser_lIA_generative\"><\/span>L\u2019approche de Vera pour s\u00e9curiser l\u2019IA g\u00e9n\u00e9rative<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Vera tente d\u2019identifier les risques li\u00e9s aux entr\u00e9es des mod\u00e8les \u2013 par exemple, une demande comme \u00ab\u00a0r\u00e9digez une lettre de motivation pour un poste d\u2019ing\u00e9nieur logiciel\u00a0\u00bb \u00e0 un mod\u00e8le de g\u00e9n\u00e9ration de texte \u2013 et de bloquer, de censurer ou de transformer les requ\u00eates qui pourraient contenir des informations personnelles, des informations de s\u00e9curit\u00e9, des propri\u00e9t\u00e9s intellectuelles et des attaques par injection de requ\u00eates. Vera place \u00e9galement des contraintes sur les r\u00e9ponses des mod\u00e8les pour donner aux entreprises un plus grand contr\u00f4le sur le comportement de leurs mod\u00e8les en production.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_defis_de_ladoption_de_lIA_generative_pour_les_entreprises\"><\/span>Les d\u00e9fis de l\u2019adoption de l\u2019IA g\u00e9n\u00e9rative pour les entreprises<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Les entreprises rencontrent des d\u00e9fis, principalement li\u00e9s \u00e0 la conformit\u00e9, lorsqu\u2019elles adoptent des mod\u00e8les d\u2019IA g\u00e9n\u00e9rative. Elles craignent que leurs donn\u00e9es confidentielles ne se retrouvent entre les mains des d\u00e9veloppeurs qui ont entra\u00een\u00e9 les mod\u00e8les sur des donn\u00e9es utilisateur. R\u00e9cemment, des grandes entreprises telles qu\u2019Apple, Walmart et Verizon ont interdit \u00e0 leurs employ\u00e9s d\u2019utiliser des outils tels que ChatGPT d\u2019OpenAI. Les mod\u00e8les offensants sont \u00e9galement pr\u00e9judiciables pour la r\u00e9putation des marques. Aucune entreprise ne souhaite que le mod\u00e8le de g\u00e9n\u00e9ration de texte alimentant leur chatbot de service client prof\u00e8re des insultes raciales ou donne des conseils autodestructeurs.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_concurrents_de_Vera_sur_le_marche_de_la_moderation_des_modeles_dIA\"><\/span>Les concurrents de Vera sur le march\u00e9 de la mod\u00e9ration des mod\u00e8les d\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Vera n\u2019est pas la seule entreprise \u00e0 proposer des solutions de mod\u00e9ration de mod\u00e8les sur le march\u00e9 naissant de l\u2019IA g\u00e9n\u00e9rative. Nvidia propose NeMo Guardrails et Salesforce propose Einstein Trust Layer, qui tentent tous deux d\u2019emp\u00eacher les mod\u00e8les de g\u00e9n\u00e9ration de texte de conserver ou de reproduire des donn\u00e9es sensibles. Microsoft propose \u00e9galement un service d\u2019IA pour mod\u00e9rer le contenu texte et image, y compris celui g\u00e9n\u00e9r\u00e9 par des mod\u00e8les. Par ailleurs, des start-ups telles que HiddenLayer, DynamoFL et Protect AI d\u00e9veloppent des outils pour d\u00e9fendre les mod\u00e8les d\u2019IA g\u00e9n\u00e9rative contre les attaques par injection de requ\u00eates.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_eventuelles_limites_de_Vera\"><\/span>Les \u00e9ventuelles limites de Vera<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>M\u00eame si Vera pr\u00e9sente des avantages, il est important de noter que les mod\u00e8les d\u2019IA ne sont pas parfaits et sont sujets \u00e0 de nombreux biais. Certains mod\u00e8les d\u2019IA destin\u00e9s \u00e0 d\u00e9tecter la toxicit\u00e9 dans le texte consid\u00e8rent de mani\u00e8re disproportionn\u00e9e comme \u00ab\u00a0toxiques\u00a0\u00bb les phrases en anglais vernaculaire afro-am\u00e9ricain, la grammaire informelle utilis\u00e9e par certains Afro-Am\u00e9ricains. Par ailleurs, certains algorithmes de vision par ordinateur ont \u00e9t\u00e9 d\u00e9couverts en train de qualifier de \u00ab\u00a0pistolets\u00a0\u00bb des thermom\u00e8tres tenus par des personnes noires, alors qu\u2019ils qualifiaient les thermom\u00e8tres tenus par des sujets \u00e0 la peau claire de \u00ab\u00a0dispositifs \u00e9lectroniques\u00a0\u00bb.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Conclusion\"><\/span>Conclusion<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>M\u00eame si Vera n\u2019est pas infaillible, elle propose une approche globale pour lutter contre les menaces de l\u2019IA g\u00e9n\u00e9rative. Si la technologie fonctionne comme annonc\u00e9, cela pourrait \u00eatre attrayant pour les entreprises \u00e0 la recherche d\u2019une solution compl\u00e8te de mod\u00e9ration de contenu et de lutte contre les attaques sur les mod\u00e8les d\u2019IA. Pour l\u2019instant, Vera compte d\u00e9j\u00e0 quelques clients et a ouvert une liste d\u2019attente pour d\u2019autres entreprises int\u00e9ress\u00e9es. Selon O\u2019Sullivan, Vera permet de d\u00e9bloquer les capacit\u00e9s de l\u2019IA g\u00e9n\u00e9rative avec une application des politiques de s\u00e9curit\u00e9 qui peut \u00eatre transf\u00e9r\u00e9e non seulement aux mod\u00e8les actuels, mais aussi aux mod\u00e8les futurs, sans \u00eatre d\u00e9pendant d\u2019un fournisseur unique.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":6599,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-6597","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/6597","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/comments?post=6597"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/6597\/revisions"}],"predecessor-version":[{"id":6598,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/posts\/6597\/revisions\/6598"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media\/6599"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/media?parent=6597"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/categories?post=6597"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/fr_be\/wp-json\/wp\/v2\/tags?post=6597"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}