La réserve de chatbots d’OpenAI envahie par une avalanche de spam – Découvrez comment les combattre !

Des chatbots GPTs problématiques inondent le GPT Store d’OpenAI

Lors de la première conférence des développeurs d’OpenAI en novembre, le PDG Sam Altman a annoncé les GPTs, des chatbots personnalisés alimentés par les modèles d’IA générative d’OpenAI, en les décrivant comme un moyen d’accomplir toutes sortes de tâches, de la programmation à l’apprentissage de sujets scientifiques ésotériques en passant par des conseils d’entraînement.

Il ne plaisantait pas sur le fait que ces GPTs peuvent être utilisés pour tout.

Cependant, Toukiela a découvert que le GPT Store, le marché officiel des GPTs d’OpenAI, est inondé de GPTs bizarres et potentiellement violant les droits d’auteur, laissant penser que la modération d’OpenAI est insuffisante. Une recherche rapide permet de trouver des GPTs qui prétendent générer des œuvres d’art dans le style de Disney et Marvel, mais qui ne sont en réalité que des incitations à utiliser des services payants tiers, et qui se vantent de pouvoir contourner les outils de détection de contenu de l’IA tels que Turnitin et Copyleaks.

Un manque de modération

Pour pouvoir proposer des GPTs sur le GPT Store, les développeurs doivent vérifier leurs profils d’utilisateurs et soumettre leurs GPTs au système de révision d’OpenAI, qui comprend une combinaison de révision humaine et automatisée. Voici ce qu’un porte-parole d’OpenAI a déclaré à ce sujet :

Nous utilisons une combinaison de systèmes automatisés, de révisions humaines et de signalements d’utilisateurs pour trouver et évaluer les GPTs qui pourraient enfreindre nos politiques. Les infractions peuvent entraîner des actions contre le contenu ou votre compte, telles que des avertissements, des restrictions de partage ou l’inéligibilité à l’inclusion dans le GPT Store ou la monétisation.

La création de GPTs ne nécessite pas de compétences en programmation et ils peuvent être aussi simples ou complexes que le créateur le souhaite. Les développeurs peuvent saisir les fonctionnalités qu’ils souhaitent offrir dans l’outil de création de GPT d’OpenAI, GPT Builder, et l’outil tentera de créer un GPT capable d’effectuer ces fonctionnalités.

Peut-être en raison de la faible barrière à l’entrée, le GPT Store a connu une croissance rapide. En janvier, OpenAI a déclaré qu’il comptait environ 3 millions de GPTs. Cependant, cette croissance semble s’être faite au détriment de la qualité et du respect des propres conditions d’OpenAI.

Problèmes de droits d’auteur

Le GPT Store propose plusieurs GPTs basés sur des franchises de films, de séries télévisées et de jeux vidéo populaires. Ces GPTs n’ont pas été créés ou autorisés (à la connaissance de Toukiela) par les propriétaires de ces franchises. Par exemple, un GPT crée des monstres dans le style de « Monstres et Cie », le film de Pixar, tandis qu’un autre promet des aventures textuelles dans l’univers de « Star Wars ».

Ces GPTs, ainsi que ceux du GPT Store qui permettent aux utilisateurs de parler avec des personnages protégés par des marques déposées, comme Wario et Aang de « Avatar : Le dernier maître de l’air », posent des problèmes de droits d’auteur.

Kit Walsh, avocate principale à la Electronic Frontier Foundation, l’explique ainsi :

Ces GPTs peuvent être utilisés pour créer des œuvres transformatives ainsi que pour violer les droits d’auteur. Les personnes qui se livrent à des violations peuvent être tenues responsables, et le créateur d’un outil par ailleurs légal peut essentiellement se rendre responsable s’il encourage les utilisateurs à utiliser l’outil de manière illégale. Il existe également des problèmes de marques lorsqu’on utilise un nom de marque déposée pour identifier des biens ou services, ce qui peut entraîner une confusion chez les utilisateurs quant à son affiliation ou à son exploitation par le propriétaire de la marque.

OpenAI lui-même ne serait pas tenu responsable des violations du droit d’auteur commises par les créateurs de GPT grâce à la disposition de refuge sûr du Digital Millennium Copyright Act, qui protège la plateforme et les autres plateformes (comme YouTube et Facebook) hébergeant du contenu contrefaisant tant que ces plateformes respectent les exigences légales et suppriment les exemples spécifiques de violation lorsqu’on le leur demande.

Cependant, cela donne une mauvaise image à une entreprise impliquée dans des litiges de propriété intellectuelle.

Dishonesté académique

Les conditions d’utilisation d’OpenAI interdisent explicitement aux développeurs de créer des GPTs qui favorisent la malhonnêteté académique. Pourtant, le GPT Store regorge de GPTs qui suggèrent pouvoir contourner les détecteurs de contenu de l’IA, y compris ceux vendus aux éducateurs par le biais de plates-formes de détection de plagiat.

Par exemple, un GPT prétend être un outil sophistiqué de reformulation « indétectable » par des détecteurs de contenu de l’IA populaires tels qu’Originality.ai et Copyleaks. Un autre, Humanizer Pro – classé n° 2 dans la catégorie Écriture du GPT Store – prétend « humaniser » le contenu pour contourner les détecteurs de l’IA, en préservant le « sens et la qualité » du texte tout en obtenant un score « 100% humain ».

Certains de ces GPTs sont de simples passerelles vers des services premium. Par exemple, Humanizer invite les utilisateurs à essayer un « plan premium » pour « utiliser l’algorithme le plus avancé », qui transmet le texte saisi dans le GPT à un plug-in d’un site tiers, GPTInf. Les abonnements à GPTInf coûtent 12 dollars par mois pour 10 000 mots par mois ou 8 dollars par mois pour un abonnement annuel, ce qui est un peu cher en plus des 20 dollars par mois de ChatGPT Plus d’OpenAI.

Impersonation

Les politiques d’OpenAI interdisent également aux développeurs de GPT de créer des GPTs qui se font passer pour des personnes ou des organisations sans leur « consentement ou leur droit légal ».

Cependant, il y a de nombreux GPTs sur le GPT Store qui prétendent représenter les points de vue ou imiter les personnalités de certaines personnes.

Une recherche avec les mots-clés « Elon Musk », « Donald Trump », « Leonardo DiCaprio », « Barack Obama » et « Joe Rogan » donne des dizaines de GPTs – certains clairement satiriques, d’autres moins – qui simulent des conversations avec ces personnalités. Certains GPTs ne se présentent pas comme des personnes, mais comme des experts des produits de sociétés bien connues, comme MicrosoftGPT, un « expert en tout ce qui concerne Microsoft ».

Jailbreaks

De manière assez incroyable, le GPT Store propose également des tentatives de jailbreak des modèles d’OpenAI, bien que peu réussies.

Il y a plusieurs GPTs utilisant DAN sur le marché, DAN (Do Anything Now) étant une méthode de demande populaire permettant aux modèles de répondre à des demandes sans se conformer à leurs règles habituelles. Les quelques-uns que j’ai testés n’ont pas répondu à n’importe quelle demande risquée que je leur ai soumise (par exemple, « comment construire une bombe ? »), mais ils étaient généralement plus enclins à utiliser… disons un langage moins flatteur que le ChatGPT classique.

Les problèmes de croissance

Lors du lancement du GPT Store, OpenAI l’a présenté comme une collection d’outils d’IA puissants et expert-curatés destinés à améliorer la productivité. Et c’est ce qu’il est – malgré ses défauts. Mais il devient rapidement un terrain fertile pour les GPTs indésirables, légalement contestables et peut-être même nuisibles, ou du moins pour les GPTs qui enfreignent clairement les règles établies.

Si c’est l’état actuel du GPT Store, la monétisation risque d’ouvrir une toute nouvelle boîte de Pandore. OpenAI a promis que les développeurs de GPT pourront éventuellement « gagner de l’argent en fonction du nombre de personnes qui utilisent leurs GPTs » et peut-être même proposer des abonnements à des GPTs individuels. Mais comment Disney ou le Tolkien Estate réagiront-ils lorsque les créateurs de GPTs non autorisés basés sur Marvel ou Le Seigneur des Anneaux commenceront à gagner de l’argent ?

La motivation d’OpenAI avec le GPT Store est claire. Comme l’a écrit mon collègue Devin Coldewey, le modèle de l’App Store d’Apple s’est révélé incroyablement lucratif, et OpenAI essaie simplement de le copier. Les GPTs sont hébergés et développés sur les plateformes d’OpenAI, où ils sont également promus et évalués. Et, depuis quelques semaines, ils peuvent être utilisés directement depuis l’interface de ChatGPT par les utilisateurs de ChatGPT Plus, ce qui incite davantage à s’abonner.

Cependant, le GPT Store rencontre les problèmes de croissance rencontrés par de nombreux marchés numériques d’applications, de produits et de services à grande échelle à leurs débuts. Outre le spam, un récent rapport de The Information a révélé que les développeurs du GPT Store peinent à attirer des utilisateurs en raison des limites des analyses en temps réel et de l’expérience d’intégration.

On aurait pu penser qu’OpenAI – malgré ses discours sur la curation et l’importance des garanties – aurait pris des précautions pour éviter les problèmes évidents. Mais cela ne semble pas être le cas. Le GPT Store est un désordre – et, si rien ne change bientôt, il risque de le rester.