Google Play met fin aux applications IA ‘offensantes’ avec sa nouvelle politique et bannit les notifications perturbatrices

Google met en place une nouvelle politique pour signaler les contenus offensants générés par l’IA

Google prévoit de lutter contre les applications générées par l’IA qui peuvent poser problème avec une nouvelle politique qui sera appliquée dès le début de l’année prochaine. Cette politique exigera des développeurs d’applications Android publiées sur le Play Store de Google qu’ils offrent la possibilité de signaler ou de marquer les contenus offensants générés par l’IA. La nouvelle politique stipulera que les signalements pourront être effectués directement dans l’application et que les développeurs devront utiliser les rapports pour adapter leurs approches de filtrage et de modération, selon Google.

Une explosion d’applications générées par l’IA

Cette décision fait suite à une explosion d’applications générées par l’IA, certaines utilisateurs parvenant à tromper les applications pour créer des images inappropriées, comme cela a été le cas avec Lensa l’année dernière. D’autres applications ont des problèmes plus subtils. Par exemple, une application qui est devenue virale cet été pour ses portraits générés par l’IA, Remini, a été trouvée pour augmenter considérablement la taille de la poitrine de certaines femmes ou de leur décolleté, tout en les affinant. Ensuite, il y a eu les problèmes plus récents avec les outils d’IA de Microsoft et de Meta, où les gens ont trouvé des moyens de contourner les barrières pour créer des images comme Sonic the Hedgehog enceinte ou des personnages fictifs commettant des actes terroristes.

Des préoccupations plus graves

Bien sûr, il y a des préoccupations bien plus graves concernant l’utilisation des générateurs d’images par l’IA, car des pédophiles ont été découverts en train d’utiliser des outils d’IA open source pour créer du contenu d’abus sexuel sur des enfants à grande échelle. De plus, avec les prochaines élections, il y a également des craintes concernant l’utilisation de l’IA pour créer de fausses images, appelées deepfakes, afin de tromper ou de désinformer le public électoral.

La nouvelle politique de Google

La nouvelle politique de Google indique que les exemples de contenus générés par l’IA comprennent notamment les « chatbots d’IA conversationnels texte-à-texte, dans lesquels l’interaction avec le chatbot est une fonctionnalité centrale de l’application », ce qui englobe des applications comme ChatGPT, ainsi que des applications où les images sont « générées par l’IA à partir de textes, d’images ou de commandes vocales ».

Dans son annonce, Google rappelle aux développeurs que toutes les applications, y compris les générateurs de contenu par l’IA, doivent se conformer à ses politiques de développeur existantes, qui interdisent les contenus restreints tels que le matériel d’abus sexuel sur des enfants et d’autres contenus qui favorisent des comportements trompeurs.

Des limitations pour les applications

En plus de modifier sa politique pour lutter contre les applications de contenu généré par l’IA, Google indique que certaines autorisations d’application feront l’objet d’un examen supplémentaire de la part de l’équipe de Google Play, notamment les applications qui demandent des autorisations étendues pour les photos et les vidéos. Selon la nouvelle politique, les applications ne pourront accéder aux photos et aux vidéos que si cela est directement lié à leur fonctionnalité. Si elles ont besoin d’accéder à des photos ou des vidéos de manière ponctuelle ou peu fréquente, les applications devront utiliser un sélecteur système, comme le nouveau sélecteur de photos Android.

Google en avance sur Apple

Il est surprenant de constater que Google est le premier à mettre en place une politique sur les applications et les chatbots d’IA, car historiquement, c’est Apple qui émet de nouvelles règles pour lutter contre les comportements indésirables des applications, que Google imite ensuite. Cependant, Apple n’a pas encore de politique officielle sur les applications ou les chatbots d’IA dans ses directives de l’App Store, bien qu’il se soit durci dans d’autres domaines, comme les applications qui demandent des données dans le but d’identifier l’utilisateur ou l’appareil, une méthode connue sous le nom de « fingerprinting », ainsi que les applications qui tentent de copier d’autres applications.

Une période de mise en œuvre

Les mises à jour de la politique de Google Play sont déployées dès aujourd’hui, mais les développeurs d’applications d’IA ont jusqu’au début de l’année 2024 pour mettre en œuvre les changements de signalement et de rapport dans leurs applications.