Découvrez les incroyables nouveautés de TikTok pour étiqueter le contenu IA !

TikTok lance un nouvel outil pour étiqueter le contenu généré par l’IA

Alors que de plus en plus de créateurs utilisent l’IA pour leur expression artistique, il y a également une demande plus large de transparence concernant l’utilisation de l’IA dans la création de contenu. Pour répondre à cette préoccupation, TikTok a annoncé aujourd’hui le lancement d’un nouvel outil qui permettra aux créateurs d’étiqueter leur contenu généré par l’IA et commencera à tester d’autres moyens d’étiqueter automatiquement le contenu généré par l’IA.

L’entreprise affirme qu’elle a ressenti le besoin d’introduire l’étiquetage de l’IA car le contenu généré par l’IA peut potentiellement confondre ou tromper les spectateurs. Bien sûr, TikTok avait déjà mis à jour sa politique pour aborder les médias synthétiques, ce qui oblige les utilisateurs à étiqueter le contenu généré par l’IA qui contient des images, du son ou de la vidéo réalistes, comme les deepfakes, afin d’aider les spectateurs à contextualiser la vidéo et d’empêcher la diffusion d’informations trompeuses. La politique de TikTok lui permet de supprimer les images réalistes générées par l’IA qui ne sont pas divulguées.

Cependant, en dehors du cas extrême de l’utilisation de l’IA pour tromper intentionnellement les utilisateurs, certains contenus générés par l’IA peuvent sembler réels ou faux. Dans cette zone grise, une plus grande transparence est généralement appréciée par les utilisateurs finaux afin qu’ils sachent si le contenu qu’ils visionnent a été fortement modifié ou créé avec l’IA.

Outil d’étiquetage de l’IA

Le nouvel outil de TikTok facilitera non seulement la conformité des créateurs à cette politique existante concernant les médias synthétiques, mais également l’étiquetage de tout autre contenu entièrement généré à l’aide de l’IA ou modifié de manière significative avec l’IA. L’outil sera disponible pour les créateurs lors du téléchargement de la vidéo et TikTok ne s’attend pas à ce que les créateurs réétiquettent leurs vidéos passées.

Lorsque le créateur utilise le nouvel outil, TikTok affichera un message sous le nom d’utilisateur sur la vidéo indiquant que le créateur a étiqueté la vidéo comme étant générée par l’IA.

Cependant, TikTok ne sanctionnera pas les créateurs qui ne sont pas étiquetés leur contenu généré par l’IA qui ne relève pas de la politique existante sur les médias synthétiques.

Détection et étiquetage automatiques de l’IA

En outre, TikTok indique qu’il travaille à développer un moyen de détecter et d’étiqueter automatiquement le contenu généré par l’IA. Cette semaine, il commencera à tester une étiquette « généré par l’IA » qui s’appliquera éventuellement à tout contenu qu’il détecte comme ayant été modifié ou créé avec l’IA.

L’entreprise a refusé de partager les détails sur la manière dont sa technologie cherchera du contenu potentiellement généré par l’IA, en notant que le partage de ces détails pourrait potentiellement permettre aux acteurs malveillants de contourner ses capacités de détection. Cependant, TikTok a déclaré qu’il testerait différents modèles de détection de l’IA et qu’il « évaluerait » les partenariats de provenance conçus pour aider les plateformes à détecter l’IA en intégrant des étiquettes d’IA dans le contenu lui-même.

Transparence dans la détection de l’IA

L’étiquetage de l’IA devient une pratique de plus en plus courante pour les grandes plateformes, OpenAI et Google ayant toutes deux annoncé leurs propres capacités de détection de l’IA ces derniers mois. Instagram semble également travailler sur une fonctionnalité qui met en évidence lorsque le contenu a été créé ou modifié avec l’IA. Et l’Union européenne pousse les plateformes à étiqueter le contenu généré par l’IA en règle générale dans sa lutte contre la désinformation.

Renommer les effets d’IA

Dans le cadre de sa nouvelle démarche en faveur de la transparence, TikTok va également renommer tous ses effets utilisant l’IA en incluant explicitement « IA » dans leur nom. C’est quelque chose qu’elle refusait auparavant de divulguer. En fait, lorsque le filtre Bold Glamor de TikTok est devenu viral en raison de l’exploit technique qu’il représentait en termes de transformation du visage des utilisateurs, certains ont soupçonné que le filtre n’utilisait pas la réalité augmentée (RA), mais l’IA. Cependant, TikTok a refusé de répondre aux demandes de la presse à l’époque pour savoir si le produit était de l’IA.

Avec les nouvelles modifications d’étiquetage, les utilisateurs pourront désormais déterminer quelles sont les filtres de TikTok qui utilisent l’IA en un coup d’œil. L’entreprise indique que ses directives mises à jour pour les créateurs de Effect House leur demanderont de faire de même.

Consultation d’experts et ressources d’éducation

TikTok note qu’elle a consulté ses conseils consultatifs en matière de sécurité lors de l’élaboration de ses nouvelles étiquettes d’IA, ainsi que des experts de l’industrie, dont le Dr David G. Rand du MIT, dont les recherches ont examiné comment les utilisateurs réagissent à différents types d’étiquettes d’IA. À cet égard, TikTok a opté pour le terme « généré par l’IA » qui est largement compris par tous les groupes démographiques.

La société déploiera également des vidéos éducatives et d’autres ressources sur la littératie médiatique au cours des prochaines semaines pour aider les utilisateurs à mieux comprendre l’IA.

Ces mises à jour font suite à d’autres initiatives prises par TikTok concernant l’IA dans les médias, notamment son engagement en février envers les « Pratiques Responsables pour les Médias Synthétiques » du partenariat sur l’IA, un code de bonnes pratiques de l’industrie en matière de transparence de l’IA et d’innovation responsable, a déclaré l’entreprise. Elle s’est également associée à l’organisation à but non lucratif Digital Moment en août pour organiser des tables rondes avec des jeunes afin de mieux comprendre leur point de vue sur les avancées de l’IA en ligne.

Les étiquettes d’IA commenceront à être déployées aujourd’hui, mais vous ne les verrez peut-être pas immédiatement tant que le déploiement ne sera pas terminé.