Les fans prennent leur revanche contre les deepfakes explicites qui inondent X: La vengeance fulgurante de Swift !

Les fans de Taylor Swift mobilisés contre les deepfakes pornographiques non consensuels

Cette semaine, une vidéo de deepfake pornographique non consensuel mettant en scène Taylor Swift est devenue virale sur X, avec plus de 45 millions de vues, 24 000 partages et des centaines de milliers de likes avant d’être supprimée.

Le pouvoir des fans de Taylor Swift

Les fans de Taylor Swift sont connus pour former l’une des bases de fans les plus dévouées, en ligne et massives du monde. Maintenant, les Swifties sont en colère.

Une mobilisation des fans

Quand les fandoms se mobilisent, ils peuvent accomplir des choses immenses, comme lorsque les fans de K-pop ont réservé des centaines de billets pour un rassemblement de Donald Trump afin de faire baisser le nombre de participants. À l’approche de l’élection présidentielle américaine de 2024, certains experts ont même émis l’hypothèse du pouvoir des Swifties en tant que groupe électoral.

Mais aujourd’hui, ce n’est pas le jour des élections, et les Swifties se concentrent sur quelque chose de plus immédiat : rendre les deepfakes non consensuels de la chanteuse aussi difficiles à trouver que possible. Désormais, lorsque vous recherchez des termes tels que « taylor swift ai » ou « taylor swift deepfake » sur X, vous trouverez des milliers de publications de fans essayant d’enterrer le contenu généré par l’IA. Sur X, la phrase « PROTECT TAYLOR SWIFT » est en tendance avec plus de 36 000 publications.

Des campagnes qui peuvent aller trop loin

Parfois, ces campagnes menées par les fans peuvent franchir certaines limites. Alors que certains fans s’encouragent mutuellement à dévoiler l’identité des utilisateurs de X qui ont diffusé les deepfakes, d’autres s’inquiètent de combattre le harcèlement par plus de harcèlement, surtout lorsque le présumé coupable a un nom relativement courant, et que dans certains cas, les Swifties pourraient s’en prendre à la mauvaise personne. Avec autant de milliers de fans participant à la cause, il est inévitable que tous les Swifties ne fassent pas partie du même front uni – et certains sont plus en phase avec l’ère « Reputation » que d’autres.

La menace des deepfakes

Avec la montée en puissance des outils d’IA générative accessibles, cette tactique de harcèlement est devenue si répandue que l’année dernière, le FBI et les forces de l’ordre internationales ont publié une déclaration conjointe sur la menace de la sextorsion. Selon une étude de la société de cybersécurité Deeptrace, environ 96 % des deepfakes sont pornographiques et ils mettent presque toujours en scène des femmes.

Le rapport indique que « la pornographie deepfake est un phénomène qui ne vise et ne nuit qu’aux femmes ». Cette forme d’abus a même pénétré les écoles, où des adolescentes ont été ciblées par leurs camarades avec des deepfakes explicites et non consensuels. Ainsi, pour certains fans de Taylor Swift, il ne s’agit pas seulement de protéger la star. Ils réalisent que ces attaques peuvent leur arriver à elles aussi, et pas seulement aux célébrités, et ils doivent se battre pour établir le précédent que ce comportement est intolérable.

Une mobilisation pour la protection

« Elle subit les attaques à notre place en ce moment, tous », a déclaré une utilisatrice de TikTok nommée LeAnn dans une vidéo appelant les utilisateurs à défendre Swift. « En la protégeant, vous vous protégez vous-même et vos filles. »

404 Media indique que les images ont été diffusées sur un groupe de discussion Telegram dédié à la création d’images explicites non consensuelles de femmes à l’aide de l’IA générative. Le groupe demande à ses utilisateurs de générer des deepfakes AI sur le logiciel Designer de Microsoft ; bien que ce contenu soit contraire à la politique de Microsoft, son IA est toujours capable de le créer et les utilisateurs ont trouvé des moyens simples de contourner les outils de sécurité de base.

Microsoft et X n’ont pas répondu à une demande de commentaire avant la publication de cet article.

Des avancées législatives

Le Congrès fait des progrès législatifs pour criminaliser les deepfakes non consensuels. La Virginie a interdit la vengeance pornographique par deepfake, et la représentante Yvette Clarke (D-NY) a récemment réintroduit le DEEPFAKES Accountability Act, qu’elle avait initialement proposé en 2019. Alors que certains s’inquiètent de la difficulté de légiférer sur les recoins sombres du web, d’autres estiment que le projet de loi pourrait au moins établir un précédent juridique de protection contre cet abus. Les fans de Swift ont également attiré l’attention sur les échecs de Ticketmaster, la méga-entreprise du divertissement qui détient également Live Nation. Dans une déclaration particulièrement mémorable, la présidente de la FTC, Lina Khan, a déclaré l’année dernière que l’expérience désastreuse pour acheter des billets pour la tournée Eras de Swift avait « converti plus de membres de la génération Z en anti-monopolistes du jour au lendemain que tout ce que j’aurais pu faire ».

Les problèmes avec l’IA

Cette campagne de harcèlement est emblématique des problèmes liés à la montée en puissance de l’IA : les entreprises se développent trop rapidement pour évaluer correctement les risques des produits qu’elles mettent sur le marché. Alors peut-être que les fans de Taylor Swift se battront pour une réglementation réfléchie des produits IA en plein développement – mais s’il faut une campagne de harcèlement de masse contre une célébrité pour que les modèles IA mal testés soient soumis à un examen quelconque, alors cela pose un tout autre problème.