{"id":9562,"date":"2024-01-13T00:07:46","date_gmt":"2024-01-12T22:07:46","guid":{"rendered":"https:\/\/toukiela.com\/scandale-revele-1-600-images-de-pedopornographie-trouvees-dans-une-base-de-donnees-dintelligence-artificielle\/"},"modified":"2024-01-13T00:07:55","modified_gmt":"2024-01-12T22:07:55","slug":"scandale-revele-1-600-images-de-pedopornographie-trouvees-dans-une-base-de-donnees-dintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/toukiela.com\/de\/scandale-revele-1-600-images-de-pedopornographie-trouvees-dans-une-base-de-donnees-dintelligence-artificielle\/","title":{"rendered":"Scandale r\u00e9v\u00e9l\u00e9 : 1 600 images de p\u00e9dopornographie trouv\u00e9es dans une base de donn\u00e9es d&rsquo;intelligence artificielle !"},"content":{"rendered":"<p><em><\/em><\/p>\n<h2>Les impacts n\u00e9fastes de l\u2019IA : D\u00e9couverte de milliers de fichiers illicites<\/h2>\n<p>Une enqu\u00eate alarmante men\u00e9e par les experts de Stanford Internet Observatory a r\u00e9v\u00e9l\u00e9 la pr\u00e9sence pr\u00e9occupante de 1 679 fichiers p\u00e9dopornographiques dans une collection de donn\u00e9es ouverte et r\u00e9pandue appel\u00e9e LAION-5B.<\/p>\n<p>Cette d\u00e9couverte survient \u00e0 un moment o\u00f9 la cr\u00e9ation de contenus p\u00e9dopornographiques par des intelligences artificielles devient un probl\u00e8me croissant en ligne. L\u2019analyse r\u00e9cente r\u00e9alis\u00e9e par l\u2019institution a r\u00e9v\u00e9l\u00e9 que d\u2019importantes archives de donn\u00e9es destin\u00e9es \u00e0 la formation des syst\u00e8mes de synth\u00e8se visuelle contiennent des fichiers repr\u00e9sentant des violences sexuelles sur des mineurs. Cette vaste collection, appel\u00e9e LAION-5B, a \u00e9t\u00e9 utilis\u00e9e pour \u00e9duquer l\u2019IA Stable Diffusion de la soci\u00e9t\u00e9 Stability AI.<\/p>\n<p>L\u2019origine de cet ensemble comprend une quantit\u00e9 \u00e9crasante de plus de 5 milliards d\u2019images et de textes explicatifs provenant de plateformes communautaires et de sites de contenu pour adultes. Face \u00e0 la capacit\u00e9 des mod\u00e8les d\u2019IA \u00e0 g\u00e9n\u00e9rer des images convaincantes \u00e0 partir de peu d\u2019exemples, l\u2019inqui\u00e9tude grandit quant \u00e0 l\u2019impact potentiel de la pr\u00e9sence de ces images au sein de LAION-5B. Les auteurs de l\u2019\u00e9tude ont r\u00e9agi en transmettant les fichiers interdits aux autorit\u00e9s comp\u00e9tentes, notamment le National Center for Missing &amp; Exploited Children aux \u00c9tats-Unis et le Centre canadien pour la protection de l\u2019enfance, et ils assurent que les images compromettantes sont en cours de suppression.<\/p>\n<h2>Actions de pr\u00e9vention et de contr\u00f4le<\/h2>\n<p>En cons\u00e9quence de ces d\u00e9couvertes alarmantes, un repr\u00e9sentant de LAION a promis une politique stricte contre la pr\u00e9sence de contenus illicites. Par mesure de pr\u00e9caution, l\u2019organisation \u00e0 but non lucratif qui supervise le projet a temporairement d\u00e9sactiv\u00e9 l\u2019acc\u00e8s \u00e0 la collection de donn\u00e9es LAION en ligne afin de proc\u00e9der \u00e0 une v\u00e9rification et \u00e0 un nettoyage approfondis.<\/p>\n<p>Parall\u00e8lement, un repr\u00e9sentant de Stability AI a affirm\u00e9 que leur IA avait \u00e9t\u00e9 entra\u00een\u00e9e avec une version \u00e9pur\u00e9e de LAION-5B. \u00ab\u00a0Des syst\u00e8mes de filtrage ont \u00e9t\u00e9 int\u00e9gr\u00e9s pour bloquer les commandes ou les r\u00e9sultats probl\u00e9matiques lors des interactions des utilisateurs avec nos mod\u00e8les\u00a0\u00bb, a-t-il pr\u00e9cis\u00e9. Ces mesures sont compl\u00e9t\u00e9es par des outils d\u2019identification permettant de marquer les images g\u00e9n\u00e9r\u00e9es, ainsi que des mesures visant \u00e0 emp\u00eacher une utilisation malveillante de leur technologie.<\/p>\n<h2>Liens pertinents<\/h2>\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\">\n<div class=\"wp-block-embed__wrapper\">\n<noscript><iframe title=\"Child Pornography - why you shouldn\u2019t use the term. Tim Tebow shares more.\" width=\"1125\" height=\"633\" src=\"https:\/\/www.youtube-nocookie.com\/embed\/R3gYFXpFvro?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" allowfullscreen=\"\"><\/iframe><\/noscript>\n<\/div>\n<p>\n<\/p><\/figure>\n<figure class=\"wp-block-embed is-type-rich is-provider-twitter wp-block-embed-twitter\">\n<div class=\"wp-block-embed__wrapper\">\n<blockquote class=\"twitter-tweet\" data-width=\"550\" data-dnt=\"true\">\n<p lang=\"fr\" dir=\"ltr\">P\u00e9dopornographie en ligne : bataille d\u2019influence autour d\u2019un texte europ\u00e9en controvers\u00e9.<\/p>\n<p>Les adversaires du texte redoutent que, au-del\u00e0 du combat pour la protection des enfants, il n\u2019ouvre la voie \u00e0 une surveillance g\u00e9n\u00e9ralis\u00e9e des messageries priv\u00e9es <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/t.co\/1dkN4o2nzB\">pic.twitter.com\/1dkN4o2nzB<\/a><\/p>\n<p>\u2014 Jonathan Chan \uea00 \ud83d\udca1\ud83d\udce3 (@ChanPerco) <a rel=\"nofollow noopener\" target=\"_blank\" href=\"https:\/\/twitter.com\/ChanPerco\/status\/1706582886722273527?ref_src=twsrc%5Etfw\">September 26, 2023<\/a><\/p><\/blockquote>\n<p>\n<\/p><\/div>\n<\/figure>\n<div itemprop=\"author\" itemscope=\"itemscope\" itemtype=\"http:\/\/schema.org\/Person\">\n<div class=\"avatar\"><img decoding=\"async\" src=\"https:\/\/toukiela.com\/wp-content\/uploads\/2024\/01\/Scandale-revele-1-600-images-de-pedopornographie-trouvees-dans.png\" alt=\"Gabriel Fouquet\" width=\"100\" height=\"100\"><\/div>\n<p><\/p>\n<div>\n<p itemprop=\"description\">Je suis Gabriel Fouquet, un \u00e9crivain passionn\u00e9 de technologie et d\u2019intelligence artificielle, avec un accent particulier sur la mani\u00e8re dont ces deux domaines se croisent et se compl\u00e8tent. Actuellement, je partage mon expertise et mes d\u00e9couvertes sur le blog intercoaching.fr, un site d\u00e9di\u00e9 \u00e0 la technologie, \u00e0 l\u2019IA et \u00e0 leur impact sur notre vie quotidienne.<\/p>\n<p>Depuis mon plus jeune \u00e2ge, j\u2019ai toujours \u00e9t\u00e9 attir\u00e9 par la technologie et son influence sur notre monde. Ma fascination pour ces domaines s\u2019est d\u00e9velopp\u00e9e au fil des ans, passant d\u2019une simple curiosit\u00e9 \u00e0 une v\u00e9ritable passion. Ce qui m\u2019a toujours intrigu\u00e9, c\u2019est la mani\u00e8re dont ces domaines en constante \u00e9volution fa\u00e7onnent notre soci\u00e9t\u00e9 et notre avenir.<\/p>\n<p>En consacrant ma vie \u00e0 l\u2019\u00e9tude et \u00e0 la compr\u00e9hension de l\u2019intelligence artificielle et de la technologie, mon objectif est de d\u00e9mystifier ces sujets souvent complexes. Sur le blog intercoaching.fr, j\u2019\u00e9cris des articles qui traduisent ces concepts en langage compr\u00e9hensible, dans l\u2019intention de rendre l\u2019IA et la technologie accessibles \u00e0 tous.<\/p>\n<p>Mon travail est anim\u00e9 par une v\u00e9ritable passion pour l\u2019apprentissage et le partage des connaissances. Je suis constamment \u00e0 l\u2019aff\u00fbt des derni\u00e8res avanc\u00e9es dans ces domaines et j\u2019esp\u00e8re inspirer les autres \u00e0 partager ma curiosit\u00e9 et mon enthousiasme pour la technologie et l\u2019IA.<\/p>\n<p>\n<\/p><\/div>\n<p>\n<\/p><\/div>\n<p>\n<script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":9565,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[672],"tags":[],"class_list":["post-9562","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-ia","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/9562","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/comments?post=9562"}],"version-history":[{"count":2,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/9562\/revisions"}],"predecessor-version":[{"id":9566,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/posts\/9562\/revisions\/9566"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/media\/9565"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/media?parent=9562"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/categories?post=9562"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/de\/wp-json\/wp\/v2\/tags?post=9562"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}