{"id":7936,"date":"2023-11-19T22:47:18","date_gmt":"2023-11-19T20:47:18","guid":{"rendered":"https:\/\/toukiela.com\/decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media\/"},"modified":"2023-11-19T22:47:19","modified_gmt":"2023-11-19T20:47:19","slug":"decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media","status":"publish","type":"post","link":"https:\/\/toukiela.com\/en\/decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media\/","title":{"rendered":"D\u00e9couvrez les produits IA les plus populaires jug\u00e9s dangereux pour les enfants par Common Sense Media !"},"content":{"rendered":"<p><em><\/em><\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Contents<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f1e4691b46e\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f1e4691b46e\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/toukiela.com\/en\/decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media\/#Des_outils_dIA_populaires_juges_dangereux_pour_les_enfants\" >Des outils d\u2019IA populaires jug\u00e9s dangereux pour les enfants<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/toukiela.com\/en\/decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media\/#Evaluation_des_produits_dIA\" >\u00c9valuation des produits d\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/toukiela.com\/en\/decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media\/#Les_resultats_de_levaluation\" >Les r\u00e9sultats de l\u2019\u00e9valuation<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/toukiela.com\/en\/decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media\/#Les_chatbots_dIA\" >Les chatbots d\u2019IA<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/toukiela.com\/en\/decouvrez-les-produits-ia-les-plus-populaires-juges-dangereux-pour-les-enfants-par-common-sense-media\/#Les_produits_dIA_pour_leducation\" >Les produits d\u2019IA pour l\u2019\u00e9ducation<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Des_outils_dIA_populaires_juges_dangereux_pour_les_enfants\"><\/span>Des outils d\u2019IA populaires jug\u00e9s dangereux pour les enfants<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Une revue ind\u00e9pendante d\u2019outils d\u2019IA populaires a r\u00e9v\u00e9l\u00e9 que de nombreux outils, dont My AI de Snapchat, DALLE et Stable Diffusion, pourraient ne pas \u00eatre s\u00fbrs pour les enfants. Ces nouvelles \u00e9valuations proviennent de Common Sense Media, un groupe de d\u00e9fense \u00e0 but non lucratif pour les familles, connu pour fournir des \u00e9valuations des m\u00e9dias aux parents qui souhaitent \u00e9valuer les applications, les jeux, les podcasts, les \u00e9missions de t\u00e9l\u00e9vision, les films et les livres que leurs enfants consomment. Plus t\u00f4t cette ann\u00e9e, l\u2019entreprise a d\u00e9clar\u00e9 qu\u2019elle ajouterait bient\u00f4t des \u00e9valuations pour les produits d\u2019IA \u00e0 ses ressources pour les familles. Aujourd\u2019hui, ces \u00e9valuations sont disponibles, offrant des \u00ab\u00a0\u00e9tiquettes nutritionnelles\u00a0\u00bb pour les produits d\u2019IA, tels que les chatbots et les g\u00e9n\u00e9rateurs d\u2019images.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Evaluation_des_produits_dIA\"><\/span>\u00c9valuation des produits d\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>En juillet, l\u2019entreprise a annonc\u00e9 son intention de mettre en place un syst\u00e8me de notation pour \u00e9valuer les produits d\u2019IA selon plusieurs crit\u00e8res, notamment l\u2019utilisation de pratiques d\u2019IA responsables et leur adaptabilit\u00e9 aux enfants. Cette d\u00e9cision a \u00e9t\u00e9 prise \u00e0 la suite d\u2019une enqu\u00eate aupr\u00e8s des parents pour \u00e9valuer leur int\u00e9r\u00eat pour un tel service. 82% des parents ont d\u00e9clar\u00e9 vouloir de l\u2019aide pour \u00e9valuer si les nouveaux produits d\u2019IA, comme ChatGPT, \u00e9taient s\u00fbrs pour leurs enfants. Seulement 40% ont d\u00e9clar\u00e9 conna\u00eetre des ressources fiables pour les aider \u00e0 prendre ces d\u00e9cisions.<\/p>\n<p>Cela a conduit au lancement des premi\u00e8res \u00e9valuations des produits d\u2019IA de Common Sense Media. Les produits sont \u00e9valu\u00e9s selon plusieurs principes d\u2019IA, tels que la confiance, la s\u00e9curit\u00e9 des enfants, la confidentialit\u00e9, la transparence, la responsabilit\u00e9, l\u2019apprentissage, l\u2019\u00e9quit\u00e9, les connexions sociales et les avantages pour les personnes et la soci\u00e9t\u00e9.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_resultats_de_levaluation\"><\/span>Les r\u00e9sultats de l\u2019\u00e9valuation<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>L\u2019organisation a d\u2019abord examin\u00e9 10 applications populaires sur une \u00e9chelle de 5 points, notamment celles utilis\u00e9es pour l\u2019apprentissage, les chatbots d\u2019IA comme Bard et ChatGPT, ainsi que les produits d\u2019IA g\u00e9n\u00e9rative, comme My AI de Snap et DALL-E. Sans surprise, cette derni\u00e8re cat\u00e9gorie a obtenu les r\u00e9sultats les plus mauvais.<\/p>\n<p>Tracy Pizzo-Frey, conseill\u00e8re principale en IA chez Common Sense Media, a d\u00e9clar\u00e9 : \u00ab\u00a0L\u2019IA n\u2019est pas toujours correcte, ni neutre en termes de valeurs. Toute IA g\u00e9n\u00e9rative, par le fait que les mod\u00e8les sont entra\u00een\u00e9s sur de grandes quantit\u00e9s de donn\u00e9es Internet, contient une grande vari\u00e9t\u00e9 de biais culturels, raciaux, socio-\u00e9conomiques, historiques et de genre \u2013 et c\u2019est exactement ce que nous avons constat\u00e9 dans nos \u00e9valuations. Nous esp\u00e9rons que nos \u00e9valuations encourageront les d\u00e9veloppeurs \u00e0 mettre en place des protections limitant la propagation de la d\u00e9sinformation et \u00e0 faire leur part pour prot\u00e9ger les g\u00e9n\u00e9rations futures des cons\u00e9quences involontaires.\u00a0\u00bb<\/p>\n<p>Dans les tests de Toukiela, il a \u00e9t\u00e9 constat\u00e9 que les fonctionnalit\u00e9s d\u2019IA g\u00e9n\u00e9ratives de My AI de Snapchat \u00e9taient g\u00e9n\u00e9ralement plus \u00e9tranges et al\u00e9atoires que r\u00e9ellement dangereuses. Cependant, Common Sense Media a donn\u00e9 au chatbot d\u2019IA une note de 2 \u00e9toiles, notant qu\u2019il produisait parfois des r\u00e9ponses renfor\u00e7ant des pr\u00e9jug\u00e9s injustes li\u00e9s \u00e0 l\u2019\u00e2gisme, au sexisme et aux st\u00e9r\u00e9otypes culturels. Il a \u00e9galement offert des r\u00e9ponses inappropri\u00e9es et des inexactitudes. De plus, il stockait des donn\u00e9es personnelles des utilisateurs, ce qui soulevait des probl\u00e8mes de confidentialit\u00e9.<\/p>\n<p>Snap a r\u00e9agi \u00e0 la mauvaise \u00e9valuation en soulignant que My AI \u00e9tait un outil facultatif et que Snapchat pr\u00e9cisait qu\u2019il s\u2019agissait d\u2019un chatbot et conseillait les utilisateurs sur ses limitations.<\/p>\n<p>D\u2019autres mod\u00e8les d\u2019IA g\u00e9n\u00e9ratifs, tels que DALL-E et Stable Diffusion, pr\u00e9sentaient des risques similaires, notamment une tendance \u00e0 l\u2019objectification et \u00e0 la sexualisation des femmes et des filles, ainsi qu\u2019un renforcement des st\u00e9r\u00e9otypes de genre, entre autres pr\u00e9occupations.<\/p>\n<p>Ces mod\u00e8les d\u2019IA g\u00e9n\u00e9ratifs sont \u00e9galement utilis\u00e9s pour produire du contenu pornographique. Des sites tels que Hugging Face et Civitai sont devenus populaires non seulement en tant que ressources pour trouver de nouveaux mod\u00e8les d\u2019images, mais aussi en facilitant la recherche de diff\u00e9rents mod\u00e8les pouvant \u00eatre combin\u00e9s pour cr\u00e9er du contenu pornographique utilisant l\u2019apparence de quelqu\u2019un (comme une c\u00e9l\u00e9brit\u00e9). Cette question a \u00e9t\u00e9 soulev\u00e9e r\u00e9cemment par 404Media, qui a point\u00e9 du doigt les capacit\u00e9s de Civitai. Le d\u00e9bat sur la responsabilit\u00e9 de ces pratiques continue sur des sites comme Hacker News.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_chatbots_dIA\"><\/span>Les chatbots d\u2019IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Dans la cat\u00e9gorie interm\u00e9diaire des \u00e9valuations de Common Sense, on retrouve des chatbots d\u2019IA tels que Bard de Google, ChatGPT et Toddle AI. L\u2019organisation a averti que ces chatbots pouvaient \u00e9galement pr\u00e9senter des biais, notamment pour les utilisateurs issus de \u00ab\u00a0milieux et de dialectes diversifi\u00e9s\u00a0\u00bb. Ils pouvaient \u00e9galement produire des informations inexactes ou des hallucinations d\u2019IA et renforcer les st\u00e9r\u00e9otypes. Common Sense a averti que les fausses informations produites par l\u2019IA pouvaient fa\u00e7onner la vision du monde des utilisateurs et rendre encore plus difficile la distinction entre les faits et la fiction.<\/p>\n<p>OpenAI a r\u00e9agi aux nouvelles \u00e9valuations en soulignant les exigences d\u2019\u00e2ge pour les utilisateurs de ses produits.<\/p>\n<p>\u00ab\u00a0Nous nous soucions profond\u00e9ment de la s\u00e9curit\u00e9 et de la confidentialit\u00e9 de tous ceux qui utilisent nos outils, y compris les jeunes, c\u2019est pourquoi nous avons mis en place des mesures de s\u00e9curit\u00e9 strictes pour ChatGPT et permettons aux utilisateurs de choisir quand leurs conversations sont utilis\u00e9es pour am\u00e9liorer nos mod\u00e8les\u00a0\u00bb, a d\u00e9clar\u00e9 Kayla Wood, porte-parole d\u2019OpenAI. \u00ab\u00a0Nous demandons aux utilisateurs \u00e2g\u00e9s de 13 \u00e0 17 ans d\u2019obtenir le consentement de leurs parents pour utiliser nos outils et nous n\u2019autorisons pas les enfants de moins de 13 ans \u00e0 utiliser nos services\u00a0\u00bb, a-t-elle ajout\u00e9.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Les_produits_dIA_pour_leducation\"><\/span>Les produits d\u2019IA pour l\u2019\u00e9ducation<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Les seuls produits d\u2019IA \u00e0 avoir re\u00e7u de bonnes \u00e9valuations sont l\u2019assistant de lecture d\u2019IA et le service de livraison de livres d\u2019Ello, Khanmingo (de Khan Academy) et le tuteur d\u2019IA de Kyron Learning, tous trois \u00e9tant des produits d\u2019IA con\u00e7us \u00e0 des fins \u00e9ducatives. Ils sont moins connus que les autres (et, selon certains enfants, moins amusants). Cependant, parce que les entreprises les ont con\u00e7us en pensant \u00e0 une utilisation par les enfants, ils ont tendance \u00e0 utiliser des pratiques d\u2019IA responsables et \u00e0 se concentrer sur l\u2019\u00e9quit\u00e9, la repr\u00e9sentation diversifi\u00e9e et la convivialit\u00e9 pour les enfants. Ils sont \u00e9galement plus transparents concernant leurs politiques de confidentialit\u00e9 des donn\u00e9es.<\/p>\n<p>Common Sense Media continuera de publier des \u00e9valuations et des critiques des nouveaux produits d\u2019IA de mani\u00e8re r\u00e9guli\u00e8re, dans l\u2019espoir d\u2019informer non seulement les parents et les familles, mais aussi les l\u00e9gislateurs et les r\u00e9gulateurs. Selon James P. Steyer, fondateur et PDG de Common Sense Media, \u00ab\u00a0les consommateurs doivent avoir acc\u00e8s \u00e0 une \u00e9tiquette nutritionnelle claire pour les produits d\u2019IA qui pourraient compromettre la s\u00e9curit\u00e9 et la confidentialit\u00e9 de tous les Am\u00e9ricains, mais surtout des enfants et des adolescents. Si le gouvernement ne parvient pas \u00e0 \u00ab\u00a0s\u00e9curiser\u00a0\u00bb l\u2019IA, les entreprises technologiques profiteront de cet environnement non r\u00e9glement\u00e9 au d\u00e9triment de notre confidentialit\u00e9 des donn\u00e9es, de notre bien-\u00eatre et de notre d\u00e9mocratie en g\u00e9n\u00e9ral\u00a0\u00bb.<\/p>\n<p>Mise \u00e0 jour du 16 novembre 2023 \u00e0 16h18 avec les commentaires d\u2019OpenAI.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":7938,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-7936","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/7936","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/comments?post=7936"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/7936\/revisions"}],"predecessor-version":[{"id":7937,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/posts\/7936\/revisions\/7937"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media\/7938"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/media?parent=7936"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/categories?post=7936"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/en\/wp-json\/wp\/v2\/tags?post=7936"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}