{"id":8861,"date":"2023-12-20T14:17:51","date_gmt":"2023-12-20T12:17:51","guid":{"rendered":"https:\/\/toukiela.com\/distributional-veut-developper-un-logiciel-revolutionnaire-pour-minimiser-les-dangers-de-lia-decouvrez-comment\/"},"modified":"2023-12-20T14:17:52","modified_gmt":"2023-12-20T12:17:52","slug":"distributional-veut-developper-un-logiciel-revolutionnaire-pour-minimiser-les-dangers-de-lia-decouvrez-comment","status":"publish","type":"post","link":"https:\/\/toukiela.com\/fr_ca\/distributional-veut-developper-un-logiciel-revolutionnaire-pour-minimiser-les-dangers-de-lia-decouvrez-comment\/","title":{"rendered":"Distributional veut d\u00e9velopper un logiciel r\u00e9volutionnaire pour minimiser les dangers de l&rsquo;IA &#8211; D\u00e9couvrez comment !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Sommaire<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1e317d4079\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1e317d4079\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/fr_ca\/distributional-veut-developper-un-logiciel-revolutionnaire-pour-minimiser-les-dangers-de-lia-decouvrez-comment\/#Une_entreprise_propose_une_plateforme_de_test_et_devaluation_de_lIA_pour_reduire_les_risques\" >Une entreprise propose une plateforme de test et d\u2019\u00e9valuation de l\u2019IA pour r\u00e9duire les risques<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/fr_ca\/distributional-veut-developper-un-logiciel-revolutionnaire-pour-minimiser-les-dangers-de-lia-decouvrez-comment\/#Une_solution_pour_les_defis_de_lIA_lies_aux_tests_et_a_levaluation\" >Une solution pour les d\u00e9fis de l\u2019IA li\u00e9s aux tests et \u00e0 l\u2019\u00e9valuation<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/fr_ca\/distributional-veut-developper-un-logiciel-revolutionnaire-pour-minimiser-les-dangers-de-lia-decouvrez-comment\/#Une_differenciation_dans_le_domaine_de_lentreprise\" >Une diff\u00e9renciation dans le domaine de l\u2019entreprise<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/fr_ca\/distributional-veut-developper-un-logiciel-revolutionnaire-pour-minimiser-les-dangers-de-lia-decouvrez-comment\/#Les_prochaines_etapes_pour_Distributional\" >Les prochaines \u00e9tapes pour Distributional<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Une_entreprise_propose_une_plateforme_de_test_et_devaluation_de_lIA_pour_reduire_les_risques\"><\/span>Une entreprise propose une plateforme de test et d\u2019\u00e9valuation de l\u2019IA pour r\u00e9duire les risques<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Les entreprises sont de plus en plus curieuses de l\u2019IA et des fa\u00e7ons dont elle peut \u00eatre utilis\u00e9e pour augmenter la productivit\u00e9. Cependant, elles sont \u00e9galement m\u00e9fiantes vis-\u00e0-vis des risques. Selon une r\u00e9cente enqu\u00eate de Workday, les entreprises citent la fiabilit\u00e9 des donn\u00e9es sous-jacentes, les biais potentiels, ainsi que la s\u00e9curit\u00e9 et la confidentialit\u00e9 comme les principaux obstacles \u00e0 la mise en \u0153uvre de l\u2019IA.<\/p>\n<p>Prenant conscience de cette opportunit\u00e9 commerciale, Scott Clark, qui a pr\u00e9c\u00e9demment co-fond\u00e9 la plateforme d\u2019entra\u00eenement et d\u2019exp\u00e9rimentation en IA SigOpt (acquise par Intel en 2020), a entrepris de construire un logiciel qui rendrait l\u2019IA s\u00fbre, fiable et s\u00e9curis\u00e9e. Clark a lanc\u00e9 une entreprise, Distributional, pour mettre en place la premi\u00e8re version de ce logiciel, dans le but de d\u00e9velopper et de normaliser les tests pour diff\u00e9rents cas d\u2019utilisation de l\u2019IA.<\/p>\n<p>\u00ab\u00a0Distributional construit la plateforme d\u2019entreprise moderne pour les tests et l\u2019\u00e9valuation de l\u2019IA\u00a0\u00bb, a d\u00e9clar\u00e9 Clark dans une interview par e-mail avec Toukiela. \u00ab\u00a0\u00c0 mesure que la puissance des applications d\u2019IA augmente, les risques de dommages augmentent \u00e9galement. Notre plateforme est con\u00e7ue pour permettre aux \u00e9quipes de produits d\u2019IA d\u2019identifier, de comprendre et de r\u00e9soudre proactivement et en continu les risques li\u00e9s \u00e0 l\u2019IA avant qu\u2019ils ne nuisent \u00e0 leurs clients en production.\u00a0\u00bb<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Une_solution_pour_les_defis_de_lIA_lies_aux_tests_et_a_levaluation\"><\/span>Une solution pour les d\u00e9fis de l\u2019IA li\u00e9s aux tests et \u00e0 l\u2019\u00e9valuation<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Clark a \u00e9t\u00e9 inspir\u00e9 de lancer Distributional apr\u00e8s avoir rencontr\u00e9 des d\u00e9fis li\u00e9s \u00e0 l\u2019IA chez Intel apr\u00e8s l\u2019acquisition de SigOpt. En tant que vice-pr\u00e9sident et directeur g\u00e9n\u00e9ral de l\u2019IA et de l\u2019informatique hautes performances chez Intel, il \u00e9tait presque impossible de s\u2019assurer que des tests d\u2019IA de haute qualit\u00e9 \u00e9taient effectu\u00e9s r\u00e9guli\u00e8rement.<\/p>\n<p>\u00ab\u00a0Les le\u00e7ons que j\u2019ai tir\u00e9es de mes exp\u00e9riences ont soulign\u00e9 la n\u00e9cessit\u00e9 de tests et d\u2019\u00e9valuations de l\u2019IA\u00a0\u00bb, a poursuivi Clark. \u00ab\u00a0Que ce soit en raison d\u2019hallucinations, d\u2019instabilit\u00e9, d\u2019inexactitude, d\u2019int\u00e9gration ou de nombreux autres d\u00e9fis potentiels, les \u00e9quipes ont souvent du mal \u00e0 identifier, comprendre et r\u00e9soudre les risques li\u00e9s \u00e0 l\u2019IA par le biais de tests. Les tests appropri\u00e9s de l\u2019IA n\u00e9cessitent une compr\u00e9hension en profondeur et distributionnelle, ce qui est un probl\u00e8me difficile \u00e0 r\u00e9soudre.\u00a0\u00bb<\/p>\n<p>Le produit principal de Distributional vise \u00e0 d\u00e9tecter et diagnostiquer les \u00ab\u00a0dommages\u00a0\u00bb de l\u2019IA \u00e0 partir de grands mod\u00e8les de langage (comme ChatGPT d\u2019OpenAI) et d\u2019autres types de mod\u00e8les d\u2019IA, en essayant de d\u00e9terminer semi-automatiquement quoi, comment et o\u00f9 tester les mod\u00e8les. Le logiciel offre aux organisations une vue \u00ab\u00a0compl\u00e8te\u00a0\u00bb des risques li\u00e9s \u00e0 l\u2019IA dans un environnement de pr\u00e9-production similaire \u00e0 un bac \u00e0 sable.<\/p>\n<p>\u00ab\u00a0La plupart des \u00e9quipes choisissent de supposer le risque de comportement du mod\u00e8le et acceptent que les mod\u00e8les auront des probl\u00e8mes\u00a0\u00bb, a d\u00e9clar\u00e9 Clark. \u00ab\u00a0Certaines peuvent essayer des tests manuels ad hoc pour trouver ces probl\u00e8mes, ce qui est intensif en ressources, d\u00e9sorganis\u00e9 et intrins\u00e8quement incomplet. D\u2019autres peuvent essayer de d\u00e9tecter passivement ces probl\u00e8mes avec des outils de surveillance passive une fois que l\u2019IA est en production\u2026 C\u2019est pourquoi notre plateforme comprend un cadre de tests extensible pour tester et analyser en continu la stabilit\u00e9 et la robustesse, un tableau de bord de tests configurable pour visualiser et comprendre les r\u00e9sultats des tests, et une suite de tests intelligente pour concevoir, hi\u00e9rarchiser et g\u00e9n\u00e9rer la bonne combinaison de tests.\u00a0\u00bb<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Une_differenciation_dans_le_domaine_de_lentreprise\"><\/span>Une diff\u00e9renciation dans le domaine de l\u2019entreprise<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Clark n\u2019a pas donn\u00e9 beaucoup de d\u00e9tails sur le fonctionnement de tout cela, ni sur les contours g\u00e9n\u00e9raux de la plateforme de Distributional. Il a mentionn\u00e9 que c\u2019\u00e9tait encore tr\u00e8s t\u00f4t dans le processus et que Distributional \u00e9tait en train de co-concevoir le produit avec des partenaires d\u2019entreprise.<\/p>\n<p>Alors que Distributional n\u2019a pas encore de revenus, de lancement ni de clients payants \u00e0 proprement parler, comment peut-elle esp\u00e9rer rivaliser avec les plateformes existantes de tests et d\u2019\u00e9valuation de l\u2019IA d\u00e9j\u00e0 sur le march\u00e9 ? Il y en a beaucoup, dont Kolena, Prolific, Giskard et Patronus \u2013 dont beaucoup sont bien financ\u00e9es. Et si la concurrence n\u2019\u00e9tait pas d\u00e9j\u00e0 assez intense, les g\u00e9ants de la technologie tels que Google Cloud, AWS et Azure proposent \u00e9galement des outils d\u2019\u00e9valuation des mod\u00e8les.<\/p>\n<p>Clark affirme que Distributional se diff\u00e9rencie par l\u2019orientation de son logiciel vers les entreprises. \u00ab\u00a0D\u00e8s le premier jour, nous construisons un logiciel capable de r\u00e9pondre aux exigences de confidentialit\u00e9 des donn\u00e9es, de mise \u00e0 l\u2019\u00e9chelle et de complexit\u00e9 des grandes entreprises, tant dans les secteurs r\u00e9glement\u00e9s que non r\u00e9glement\u00e9s\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0Les types d\u2019entreprises avec lesquelles nous concevons notre produit ont des exigences qui vont au-del\u00e0 des offres existantes disponibles sur le march\u00e9, qui ont tendance \u00e0 \u00eatre des outils ax\u00e9s sur les d\u00e9veloppeurs individuels.\u00a0\u00bb<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_prochaines_etapes_pour_Distributional\"><\/span>Les prochaines \u00e9tapes pour Distributional<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Si tout se passe comme pr\u00e9vu, Distributional commencera \u00e0 g\u00e9n\u00e9rer des revenus l\u2019ann\u00e9e prochaine, une fois que sa plateforme sera disponible en version g\u00e9n\u00e9rale et que certains de ses partenaires de conception deviendront des clients payants. En attendant, la start-up cherche \u00e0 lever des fonds aupr\u00e8s de capital-risqueurs ; Distributional a annonc\u00e9 aujourd\u2019hui la cl\u00f4ture d\u2019un tour d\u2019amor\u00e7age de 11 millions de dollars dirig\u00e9 par Martin Casado d\u2019Andreessen Horowitz, avec la participation d\u2019Operator Stack, Point72 Ventures, SV Angel, Two Sigma et des investisseurs providentiels.<\/p>\n<p>\u00ab\u00a0Nous esp\u00e9rons instaurer un cercle vertueux pour nos clients\u00a0\u00bb, a d\u00e9clar\u00e9 Clark. \u00ab\u00a0Avec de meilleurs tests, les \u00e9quipes auront plus confiance dans le d\u00e9ploiement de l\u2019IA dans leurs applications. \u00c0 mesure qu\u2019elles d\u00e9ploient davantage d\u2019IA, elles verront son impact cro\u00eetre de mani\u00e8re exponentielle. Et \u00e0 mesure qu\u2019elles constateront cette augmentation d\u2019impact, elles l\u2019appliqueront \u00e0 des probl\u00e8mes plus complexes et plus significatifs, ce qui n\u00e9cessitera encore plus de tests pour garantir sa s\u00e9curit\u00e9, sa fiabilit\u00e9 et sa s\u00e9curit\u00e9.\u00a0\u00bb<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":8863,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-8861","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/8861","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/comments?post=8861"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/8861\/revisions"}],"predecessor-version":[{"id":8862,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/8861\/revisions\/8862"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/media\/8863"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/media?parent=8861"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/categories?post=8861"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/tags?post=8861"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}