Incroyable : Découvrez comment une publicité deepfake d’IA de MrBeast a débarqué sur TikTok !

Les deepfakes d’IA sont si réalistes qu’une fausse publicité de MrBeast a réussi à passer la technologie de modération des annonces de TikTok pour se retrouver sur la plateforme.

Dans cette annonce, le créateur extrêmement influent semblait offrir à 10 000 spectateurs un iPhone 15 Pro pour seulement 2 $. Dans la plupart des cas, cela serait clairement une indication d’une arnaque, mais venant de MrBeast, cela pourrait être crédible.

MrBeast (un jeune de 25 ans nommé Jimmy Donaldson avec plus d’abonnés que tout autre individu sur YouTube) est devenu célèbre en créant des vidéos de cascades de plus en plus absurdes dans lesquelles il offre des maisons et des voitures gratuitement et sans condition (tant qu’ils acceptent d’être dans sa vidéo). Ou, plus récemment, il demande aux personnes de « chaque pays de la Terre » de concourir pour un prix de 250 000 $ dans une série de mini-jeux olympiques.

Donc, si vous n’êtes pas particulièrement doué pour repérer les arnaques et que vous faites défiler TikTok tard dans la nuit lorsque vous ne réfléchissez pas clairement, il est possible que MrBeast achète 10 000 iPhones à distribuer via une annonce TikTok. Après tout, il a litéralement déjà donné des iPhones gratuits à des enfants qui faisaient du porte-à-porte pour Halloween.

La lutte contre les deepfakes d’IA

Pour être charitable, cela pourrait expliquer comment la fausse annonce deepfake a été approuvée sur TikTok. TikTok utilise une combinaison de modération humaine et – ironiquement – de la technologie assistée par l’IA pour examiner les annonces avant leur publication. Ainsi, en gros, l’IA de TikTok a lutté contre l’IA derrière ce deepfake de MrBeast et a perdu.

TikTok a déclaré à Toukiela qu’il avait supprimé l’annonce quelques heures seulement après sa publication, car elle enfreignait les politiques publicitaires de TikTok. TikTok n’interdit pas totalement aux annonceurs d’utiliser des médias synthétiques ou manipulés, mais la plateforme exige que les annonceurs précisent très clairement s’ils utilisent ce type de technologie.

TikTok n’est pas le seul à utiliser l’IA pour modérer les publicités. Meta affirme qu’il s’appuie « principalement sur une technologie automatisée », mais tout comme TikTok, il utilise des examinateurs humains pour former son IA et examine parfois manuellement les annonces.

Les dangers des deepfakes trompeurs

Les deepfakes trompeurs ne sont pas nouveaux, mais avec la popularité croissante de l’IA parmi les investisseurs et les consommateurs, la technologie est devenue plus facile que jamais à obtenir. Alors que des célébrités célèbres sur Internet comme MrBeast font appel aux jeunes générations, les consommateurs plus âgés se font également avoir. Rien que cette semaine, l’acteur Tom Hanks et l’animatrice de CBS Gayle King ont tous deux averti leurs abonnés qu’ils étaient victimes de deepfakes dans des publicités frauduleuses.

« ATTENTION !! » a écrit Tom Hanks sur Instagram. « Il y a une vidéo qui promeut un plan dentaire avec une version IA de moi. Je n’y suis pour rien. »

La FTC a déjà émis des avertissements concernant le marketing des deepfakes, mais il s’est avéré difficile de réglementer cette pratique à grande échelle. Et à l’approche des élections mondiales, les conséquences de cette publicité trompeuse pourraient devenir plus graves.