Inde : face aux désinformations électorales, découvrez les étiquettes et la coalition de sécurité IA qui bouleversent tout !

L’Inde, un terrain propice à l’utilisation et à l’abus de l’IA dans le discours politique

L’Inde, longtemps en retard en matière d’utilisation de la technologie pour influencer le public, est devenue un point chaud mondial en ce qui concerne l’utilisation et l’abus de l’IA dans le discours politique, et plus particulièrement dans le processus démocratique. Les entreprises technologiques, qui ont créé ces outils, se rendent dans le pays pour promouvoir des solutions.

La promotion des outils de détection de contenu généré par l’IA

Cette année, Andy Parsons, directeur principal chez Adobe, s’est rendu en Inde pour visiter des médias et des organisations technologiques du pays afin de promouvoir des outils pouvant être intégrés aux flux de travail de contenu pour identifier et signaler le contenu généré par l’IA.

Il a déclaré lors d’une interview : « Au lieu de détecter ce qui est faux ou manipulé, nous, en tant que société, et c’est une préoccupation internationale, devrions commencer à déclarer l’authenticité, c’est-à-dire dire si quelque chose a été généré par l’IA, cela devrait être connu des consommateurs. »

La nécessité de normes et d’alliances en Inde

Parsons a ajouté que certaines entreprises indiennes, qui ne font pas partie de l’accord de sécurité électorale de l’IA de Munich signé par OpenAI, Adobe, Google et Amazon en février, envisageaient de créer une alliance similaire dans le pays.

Il a également souligné la difficulté de légiférer sur la question : « La législation est une chose très délicate. Supposer que le gouvernement légiférera correctement et rapidement dans n’importe quelle juridiction est quelque chose sur lequel il est difficile de compter. Il vaut mieux que le gouvernement adopte une approche très prudente et prenne son temps. »

Les outils de détection comme solution partielle

Les outils de détection sont connus pour leur inconsistance, mais ils sont considérés comme un premier pas pour résoudre certains des problèmes.

Parsons a déclaré lors de son voyage à Delhi : « Le concept est déjà bien compris. J’aide à sensibiliser le public sur le fait que les outils sont également prêts. Ce n’est pas seulement une idée. C’est quelque chose qui est déjà déployé. »

La création de normes pour garantir l’authenticité des contenus

La CAI, qui promeut des normes ouvertes et libres de droits pour identifier si un contenu numérique a été généré par une machine ou par un humain, a été fondée en 2019 et compte maintenant 2 500 membres, dont Microsoft, Meta, Google, The New York Times, The Wall Street Journal et la BBC.

En février 2021, Adobe a cofondé la Coalition for Content Provenance and Authenticity (C2PA) avec ARM, BBC, Intel, Microsoft et Truepic. La coalition vise à développer une norme ouverte qui utilise les métadonnées des images, des vidéos, du texte et d’autres médias pour mettre en évidence leur provenance et informer les utilisateurs sur l’origine du fichier, le lieu et l’heure de sa génération, et s’il a été modifié avant d’arriver à l’utilisateur. La CAI collabore avec la C2PA pour promouvoir la norme et la rendre accessible au plus grand nombre.

L’adoption des normes en Inde

Adobe s’engage activement avec des gouvernements comme celui de l’Inde pour élargir l’adoption de cette norme afin de mettre en évidence la provenance du contenu généré par l’IA et participer avec les autorités à l’élaboration de lignes directrices pour l’avancement de l’IA.

Adobe prend des mesures pour s’assurer que ses produits ne contribuent pas au chaos. En tant que leader du marché des outils destinés à la communauté créative, Adobe développe de nouveaux produits tels que Firefly pour générer du contenu IA natif et intègre également l’IA dans ses produits existants. Pour rester en tête du marché, Adobe devra inclure l’IA dans son offre. Cependant, son avenir dépendra de sa capacité à garantir que ce qu’elle vend ne contribue pas au désordre, selon les régulateurs et le bon sens.

Les défis de l’Inde face à la désinformation

L’Inde est confrontée à des défis importants en raison de sa population nombreuse, de sa diversité linguistique et démographique, ce qui rend difficile la lutte contre la désinformation. Dans ce contexte, l’utilisation d’étiquettes simples pour couper court à la désinformation est un vote en faveur de la simplicité.

La controverse autour du soutien des entreprises technologiques aux mesures de sécurité de l’IA

La question se pose de savoir si le soutien des entreprises technologiques à toute mesure de sécurité de l’IA est vraiment motivé par une préoccupation existentielle ou s’il s’agit simplement d’avoir une place à la table des négociations pour donner l’impression d’une préoccupation existentielle, tout en veillant à ce que leurs intérêts soient protégés dans le processus d’élaboration des règles.

Parsons a défendu ce travail en déclarant : « Ces idées ne sont généralement pas controversées pour les entreprises qui y participent, et toutes les entreprises qui ont signé le récent accord de Munich, y compris Adobe, se sont réunies en mettant de côté les pressions concurrentielles, car ces idées sont quelque chose que nous devons tous mettre en œuvre. »

Partagez votre avis

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.