{"id":11801,"date":"2024-03-25T04:58:27","date_gmt":"2024-03-25T02:58:27","guid":{"rendered":"https:\/\/toukiela.com\/la-reserve-de-chatbots-dopenai-envahie-par-une-avalanche-de-spam-decouvrez-comment-les-combattre\/"},"modified":"2024-03-25T04:58:29","modified_gmt":"2024-03-25T02:58:29","slug":"la-reserve-de-chatbots-dopenai-envahie-par-une-avalanche-de-spam-decouvrez-comment-les-combattre","status":"publish","type":"post","link":"https:\/\/toukiela.com\/fr_ca\/la-reserve-de-chatbots-dopenai-envahie-par-une-avalanche-de-spam-decouvrez-comment-les-combattre\/","title":{"rendered":"La r\u00e9serve de chatbots d’OpenAI envahie par une avalanche de spam – D\u00e9couvrez comment les combattre !"},"content":{"rendered":"

<\/em><\/p>\n

Des chatbots GPTs probl\u00e9matiques inondent le GPT Store d\u2019OpenAI<\/h2>\n

<\/p>\n

Lors de la premi\u00e8re conf\u00e9rence des d\u00e9veloppeurs d\u2019OpenAI en novembre, le PDG Sam Altman a annonc\u00e9 les GPTs, des chatbots personnalis\u00e9s aliment\u00e9s par les mod\u00e8les d\u2019IA g\u00e9n\u00e9rative d\u2019OpenAI, en les d\u00e9crivant comme un moyen d\u2019accomplir toutes sortes de t\u00e2ches, de la programmation \u00e0 l\u2019apprentissage de sujets scientifiques \u00e9sot\u00e9riques en passant par des conseils d\u2019entra\u00eenement.<\/p>\n

<\/p>\n

Il ne plaisantait pas sur le fait que ces GPTs peuvent \u00eatre utilis\u00e9s pour tout.<\/p>\n

<\/p>\n

Cependant, Toukiela a d\u00e9couvert que le GPT Store, le march\u00e9 officiel des GPTs d\u2019OpenAI, est inond\u00e9 de GPTs bizarres et potentiellement violant les droits d\u2019auteur, laissant penser que la mod\u00e9ration d\u2019OpenAI est insuffisante. Une recherche rapide permet de trouver des GPTs qui pr\u00e9tendent g\u00e9n\u00e9rer des \u0153uvres d\u2019art dans le style de Disney et Marvel, mais qui ne sont en r\u00e9alit\u00e9 que des incitations \u00e0 utiliser des services payants tiers, et qui se vantent de pouvoir contourner les outils de d\u00e9tection de contenu de l\u2019IA tels que Turnitin et Copyleaks.<\/p>\n

<\/span>Un manque de mod\u00e9ration<\/span><\/h2>\n

<\/p>\n

Pour pouvoir proposer des GPTs sur le GPT Store, les d\u00e9veloppeurs doivent v\u00e9rifier leurs profils d\u2019utilisateurs et soumettre leurs GPTs au syst\u00e8me de r\u00e9vision d\u2019OpenAI, qui comprend une combinaison de r\u00e9vision humaine et automatis\u00e9e. Voici ce qu\u2019un porte-parole d\u2019OpenAI a d\u00e9clar\u00e9 \u00e0 ce sujet :<\/p>\n

<\/p>\n

\n

Nous utilisons une combinaison de syst\u00e8mes automatis\u00e9s, de r\u00e9visions humaines et de signalements d\u2019utilisateurs pour trouver et \u00e9valuer les GPTs qui pourraient enfreindre nos politiques. Les infractions peuvent entra\u00eener des actions contre le contenu ou votre compte, telles que des avertissements, des restrictions de partage ou l\u2019in\u00e9ligibilit\u00e9 \u00e0 l\u2019inclusion dans le GPT Store ou la mon\u00e9tisation.<\/p>\n<\/blockquote>\n

<\/p>\n

La cr\u00e9ation de GPTs ne n\u00e9cessite pas de comp\u00e9tences en programmation et ils peuvent \u00eatre aussi simples ou complexes que le cr\u00e9ateur le souhaite. Les d\u00e9veloppeurs peuvent saisir les fonctionnalit\u00e9s qu\u2019ils souhaitent offrir dans l\u2019outil de cr\u00e9ation de GPT d\u2019OpenAI, GPT Builder, et l\u2019outil tentera de cr\u00e9er un GPT capable d\u2019effectuer ces fonctionnalit\u00e9s.<\/p>\n

<\/p>\n

Peut-\u00eatre en raison de la faible barri\u00e8re \u00e0 l\u2019entr\u00e9e, le GPT Store a connu une croissance rapide. En janvier, OpenAI a d\u00e9clar\u00e9 qu\u2019il comptait environ 3 millions de GPTs. Cependant, cette croissance semble s\u2019\u00eatre faite au d\u00e9triment de la qualit\u00e9 et du respect des propres conditions d\u2019OpenAI.<\/p>\n

Probl\u00e8mes de droits d\u2019auteur<\/h2>\n

<\/p>\n

Le GPT Store propose plusieurs GPTs bas\u00e9s sur des franchises de films, de s\u00e9ries t\u00e9l\u00e9vis\u00e9es et de jeux vid\u00e9o populaires. Ces GPTs n\u2019ont pas \u00e9t\u00e9 cr\u00e9\u00e9s ou autoris\u00e9s (\u00e0 la connaissance de Toukiela) par les propri\u00e9taires de ces franchises. Par exemple, un GPT cr\u00e9e des monstres dans le style de \u00ab\u00a0Monstres et Cie\u00a0\u00bb, le film de Pixar, tandis qu\u2019un autre promet des aventures textuelles dans l\u2019univers de \u00ab\u00a0Star Wars\u00a0\u00bb.<\/p>\n

<\/p>\n

Ces GPTs, ainsi que ceux du GPT Store qui permettent aux utilisateurs de parler avec des personnages prot\u00e9g\u00e9s par des marques d\u00e9pos\u00e9es, comme Wario et Aang de \u00ab\u00a0Avatar : Le dernier ma\u00eetre de l\u2019air\u00a0\u00bb, posent des probl\u00e8mes de droits d\u2019auteur.<\/p>\n

<\/p>\n

Kit Walsh, avocate principale \u00e0 la Electronic Frontier Foundation, l\u2019explique ainsi :<\/p>\n

<\/p>\n

\n

Ces GPTs peuvent \u00eatre utilis\u00e9s pour cr\u00e9er des \u0153uvres transformatives ainsi que pour violer les droits d\u2019auteur. Les personnes qui se livrent \u00e0 des violations peuvent \u00eatre tenues responsables, et le cr\u00e9ateur d\u2019un outil par ailleurs l\u00e9gal peut essentiellement se rendre responsable s\u2019il encourage les utilisateurs \u00e0 utiliser l\u2019outil de mani\u00e8re ill\u00e9gale. Il existe \u00e9galement des probl\u00e8mes de marques lorsqu\u2019on utilise un nom de marque d\u00e9pos\u00e9e pour identifier des biens ou services, ce qui peut entra\u00eener une confusion chez les utilisateurs quant \u00e0 son affiliation ou \u00e0 son exploitation par le propri\u00e9taire de la marque.<\/p>\n<\/blockquote>\n

<\/p>\n

OpenAI lui-m\u00eame ne serait pas tenu responsable des violations du droit d\u2019auteur commises par les cr\u00e9ateurs de GPT gr\u00e2ce \u00e0 la disposition de refuge s\u00fbr du Digital Millennium Copyright Act, qui prot\u00e8ge la plateforme et les autres plateformes (comme YouTube et Facebook) h\u00e9bergeant du contenu contrefaisant tant que ces plateformes respectent les exigences l\u00e9gales et suppriment les exemples sp\u00e9cifiques de violation lorsqu\u2019on le leur demande.<\/p>\n

<\/p>\n

Cependant, cela donne une mauvaise image \u00e0 une entreprise impliqu\u00e9e dans des litiges de propri\u00e9t\u00e9 intellectuelle.<\/p>\n

<\/span>Dishonest\u00e9 acad\u00e9mique<\/span><\/h2>\n

<\/p>\n

Les conditions d\u2019utilisation d\u2019OpenAI interdisent explicitement aux d\u00e9veloppeurs de cr\u00e9er des GPTs qui favorisent la malhonn\u00eatet\u00e9 acad\u00e9mique. Pourtant, le GPT Store regorge de GPTs qui sugg\u00e8rent pouvoir contourner les d\u00e9tecteurs de contenu de l\u2019IA, y compris ceux vendus aux \u00e9ducateurs par le biais de plates-formes de d\u00e9tection de plagiat.<\/p>\n

<\/p>\n

Par exemple, un GPT pr\u00e9tend \u00eatre un outil sophistiqu\u00e9 de reformulation \u00ab\u00a0ind\u00e9tectable\u00a0\u00bb par des d\u00e9tecteurs de contenu de l\u2019IA populaires tels qu\u2019Originality.ai et Copyleaks. Un autre, Humanizer Pro \u2013 class\u00e9 n\u00b0 2 dans la cat\u00e9gorie \u00c9criture du GPT Store \u2013 pr\u00e9tend \u00ab\u00a0humaniser\u00a0\u00bb le contenu pour contourner les d\u00e9tecteurs de l\u2019IA, en pr\u00e9servant le \u00ab\u00a0sens et la qualit\u00e9\u00a0\u00bb du texte tout en obtenant un score \u00ab\u00a0100% humain\u00a0\u00bb.<\/p>\n

<\/p>\n

Certains de ces GPTs sont de simples passerelles vers des services premium. Par exemple, Humanizer invite les utilisateurs \u00e0 essayer un \u00ab\u00a0plan premium\u00a0\u00bb pour \u00ab\u00a0utiliser l\u2019algorithme le plus avanc\u00e9\u00a0\u00bb, qui transmet le texte saisi dans le GPT \u00e0 un plug-in d\u2019un site tiers, GPTInf. Les abonnements \u00e0 GPTInf co\u00fbtent 12 dollars par mois pour 10 000 mots par mois ou 8 dollars par mois pour un abonnement annuel, ce qui est un peu cher en plus des 20 dollars par mois de ChatGPT Plus d\u2019OpenAI.<\/p>\n

<\/span>Impersonation<\/span><\/h2>\n

<\/p>\n

Les politiques d\u2019OpenAI interdisent \u00e9galement aux d\u00e9veloppeurs de GPT de cr\u00e9er des GPTs qui se font passer pour des personnes ou des organisations sans leur \u00ab\u00a0consentement ou leur droit l\u00e9gal\u00a0\u00bb.<\/p>\n

<\/p>\n

Cependant, il y a de nombreux GPTs sur le GPT Store qui pr\u00e9tendent repr\u00e9senter les points de vue ou imiter les personnalit\u00e9s de certaines personnes.<\/p>\n

<\/p>\n

Une recherche avec les mots-cl\u00e9s \u00ab\u00a0Elon Musk\u00a0\u00bb, \u00ab\u00a0Donald Trump\u00a0\u00bb, \u00ab\u00a0Leonardo DiCaprio\u00a0\u00bb, \u00ab\u00a0Barack Obama\u00a0\u00bb et \u00ab\u00a0Joe Rogan\u00a0\u00bb donne des dizaines de GPTs \u2013 certains clairement satiriques, d\u2019autres moins \u2013 qui simulent des conversations avec ces personnalit\u00e9s. Certains GPTs ne se pr\u00e9sentent pas comme des personnes, mais comme des experts des produits de soci\u00e9t\u00e9s bien connues, comme MicrosoftGPT, un \u00ab\u00a0expert en tout ce qui concerne Microsoft\u00a0\u00bb.<\/p>\n

<\/span>Jailbreaks<\/span><\/h2>\n

<\/p>\n

De mani\u00e8re assez incroyable, le GPT Store propose \u00e9galement des tentatives de jailbreak des mod\u00e8les d\u2019OpenAI, bien que peu r\u00e9ussies.<\/p>\n

<\/p>\n

Il y a plusieurs GPTs utilisant DAN sur le march\u00e9, DAN (Do Anything Now) \u00e9tant une m\u00e9thode de demande populaire permettant aux mod\u00e8les de r\u00e9pondre \u00e0 des demandes sans se conformer \u00e0 leurs r\u00e8gles habituelles. Les quelques-uns que j\u2019ai test\u00e9s n\u2019ont pas r\u00e9pondu \u00e0 n\u2019importe quelle demande risqu\u00e9e que je leur ai soumise (par exemple, \u00ab\u00a0comment construire une bombe ?\u00a0\u00bb), mais ils \u00e9taient g\u00e9n\u00e9ralement plus enclins \u00e0 utiliser\u2026 disons un langage moins flatteur que le ChatGPT classique.<\/p>\n

<\/span>Les probl\u00e8mes de croissance<\/span><\/h2>\n

<\/p>\n

Lors du lancement du GPT Store, OpenAI l\u2019a pr\u00e9sent\u00e9 comme une collection d\u2019outils d\u2019IA puissants et expert-curat\u00e9s destin\u00e9s \u00e0 am\u00e9liorer la productivit\u00e9. Et c\u2019est ce qu\u2019il est \u2013 malgr\u00e9 ses d\u00e9fauts. Mais il devient rapidement un terrain fertile pour les GPTs ind\u00e9sirables, l\u00e9galement contestables et peut-\u00eatre m\u00eame nuisibles, ou du moins pour les GPTs qui enfreignent clairement les r\u00e8gles \u00e9tablies.<\/p>\n

<\/p>\n

Si c\u2019est l\u2019\u00e9tat actuel du GPT Store, la mon\u00e9tisation risque d\u2019ouvrir une toute nouvelle bo\u00eete de Pandore. OpenAI a promis que les d\u00e9veloppeurs de GPT pourront \u00e9ventuellement \u00ab\u00a0gagner de l\u2019argent en fonction du nombre de personnes qui utilisent leurs GPTs\u00a0\u00bb et peut-\u00eatre m\u00eame proposer des abonnements \u00e0 des GPTs individuels. Mais comment Disney ou le Tolkien Estate r\u00e9agiront-ils lorsque les cr\u00e9ateurs de GPTs non autoris\u00e9s bas\u00e9s sur Marvel ou Le Seigneur des Anneaux commenceront \u00e0 gagner de l\u2019argent ?<\/p>\n

<\/p>\n

La motivation d\u2019OpenAI avec le GPT Store est claire. Comme l\u2019a \u00e9crit mon coll\u00e8gue Devin Coldewey, le mod\u00e8le de l\u2019App Store d\u2019Apple s\u2019est r\u00e9v\u00e9l\u00e9 incroyablement lucratif, et OpenAI essaie simplement de le copier. Les GPTs sont h\u00e9berg\u00e9s et d\u00e9velopp\u00e9s sur les plateformes d\u2019OpenAI, o\u00f9 ils sont \u00e9galement promus et \u00e9valu\u00e9s. Et, depuis quelques semaines, ils peuvent \u00eatre utilis\u00e9s directement depuis l\u2019interface de ChatGPT par les utilisateurs de ChatGPT Plus, ce qui incite davantage \u00e0 s\u2019abonner.<\/p>\n

<\/p>\n

Cependant, le GPT Store rencontre les probl\u00e8mes de croissance rencontr\u00e9s par de nombreux march\u00e9s num\u00e9riques d\u2019applications, de produits et de services \u00e0 grande \u00e9chelle \u00e0 leurs d\u00e9buts. Outre le spam, un r\u00e9cent rapport de The Information a r\u00e9v\u00e9l\u00e9 que les d\u00e9veloppeurs du GPT Store peinent \u00e0 attirer des utilisateurs en raison des limites des analyses en temps r\u00e9el et de l\u2019exp\u00e9rience d\u2019int\u00e9gration.<\/p>\n

<\/p>\n

On aurait pu penser qu\u2019OpenAI \u2013 malgr\u00e9 ses discours sur la curation et l\u2019importance des garanties \u2013 aurait pris des pr\u00e9cautions pour \u00e9viter les probl\u00e8mes \u00e9vidents. Mais cela ne semble pas \u00eatre le cas. Le GPT Store est un d\u00e9sordre \u2013 et, si rien ne change bient\u00f4t, il risque de le rester.<\/p>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":11803,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_seopress_analysis_target_kw":"","footnotes":""},"categories":[608],"tags":[],"class_list":["post-11801","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-intelligence-artificielle","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"_links":{"self":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/11801","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/comments?post=11801"}],"version-history":[{"count":1,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/11801\/revisions"}],"predecessor-version":[{"id":11802,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/posts\/11801\/revisions\/11802"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/media\/11803"}],"wp:attachment":[{"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/media?parent=11801"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/categories?post=11801"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/toukiela.com\/fr_ca\/wp-json\/wp\/v2\/tags?post=11801"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}