Scandale ! L’UE veut frapper fort contre les abus sexuels sur mineurs générés par l’IA et les deepfakes. Découvrez les mesures choc proposées !

La Commission européenne propose de criminaliser les deepfakes et le livestreaming d’abus sexuels sur mineurs

La Commission européenne a annoncé aujourd’hui son intention de criminaliser les images générées par l’intelligence artificielle et d’autres formes de deepfakes représentant des abus sexuels sur mineurs, dans le cadre d’une mise à jour de la législation existante visant à suivre les évolutions technologiques.

Elle propose également de créer une nouvelle infraction pénale relative à la diffusion en direct d’abus sexuels sur mineurs. La possession et l’échange de « manuels pédophiles » seraient également criminalisés dans le cadre de ce plan, qui fait partie d’un ensemble de mesures destinées à renforcer la prévention des abus sexuels sur mineurs dans l’UE.

Une mise à jour des règles actuelles

La proposition de mettre à jour les règles actuelles de l’UE dans ce domaine, qui remontent à 2011, comprend également des modifications concernant la déclaration obligatoire des infractions.

En mai 2022, la Commission a présenté un projet de législation distinct relatif aux abus sexuels sur mineurs, visant à établir un cadre qui pourrait rendre obligatoire l’utilisation de technologies automatisées par les services numériques pour détecter et signaler les contenus existants ou nouveaux d’abus sexuels sur mineurs circulant sur leurs plateformes, ainsi que pour identifier et signaler les activités de manipulation ciblant les enfants.

Le plan de balayage des contenus d’abus sexuels sur mineurs a suscité une vive controverse, divisant les législateurs du Parlement et du Conseil, tout en soulevant des soupçons quant aux liens de la Commission avec les défenseurs de la sécurité des enfants et en posant d’autres questions embarrassantes pour l’exécutif de l’UE, en raison d’une incursion juridiquement contestable dans les publicités micro-ciblées pour promouvoir la proposition.

La décision de la Commission de donner la priorité aux plates-formes de messagerie numérique pour lutter contre les abus sexuels sur mineurs a suscité de nombreuses critiques selon lesquelles les législateurs de l’UE se concentrent sur le mauvais domaine pour lutter contre un problème sociétal complexe, ce qui a peut-être exercé une pression pour qu’ils proposent d’autres mesures. (Ce n’est évidemment pas ce que dit la Commission ; elle décrit le package d’aujourd’hui comme « complémentaire » à sa proposition précédente de balayage des contenus d’abus sexuels sur mineurs.)

Cela étant dit, même en moins de deux ans depuis la présentation du controversé plan de balayage des messages privés, l’attention portée aux risques liés aux deepfakes et aux images générées par l’IA a considérablement augmenté, avec notamment des préoccupations selon lesquelles la technologie est utilisée de manière abusive pour produire des contenus d’abus sexuels sur mineurs et des craintes que ces contenus synthétiques rendent encore plus difficile l’identification des véritables victimes par les autorités chargées de l’application de la loi. Ainsi, le boom viral de l’IA générative a donné aux législateurs une incitation claire à revoir les règles.

La Commission suggère dans un communiqué de presse publié aujourd’hui que « la présence accrue d’enfants en ligne et les évolutions technologiques créent de nouvelles possibilités d’abus ». Elle affirme également que la proposition vise à « réduire l’impunité généralisée des abus sexuels et de l’exploitation des enfants en ligne ».

Une évaluation de l’impact réalisée par la Commission avant la présentation de la proposition a identifié la présence accrue d’enfants en ligne et les « dernières évolutions technologiques » comme des domaines qui créent de nouvelles opportunités d’abus sexuels sur mineurs. Elle s’inquiète également des différences entre les cadres juridiques des États membres qui entravent les actions de lutte contre les abus et souhaite améliorer les efforts actuels « limités » de prévention des abus et d’assistance aux victimes.

« Les technologies en constante évolution créent de nouvelles possibilités d’abus sexuels sur mineurs en ligne et posent des défis à la police pour enquêter sur ce crime extrêmement grave et répandu », a déclaré Ylva Johansson, commissaire aux affaires intérieures, dans une déclaration de soutien. « Une législation pénale solide est essentielle et aujourd’hui, nous franchissons une étape importante pour nous assurer que nous disposons d’outils juridiques efficaces pour sauver des enfants et traduire les auteurs en justice. Nous respectons nos engagements pris dans la stratégie de l’UE pour une lutte plus efficace contre les abus sexuels sur mineurs présentée en juillet 2020. »

Sécurité en ligne pour les enfants

En ce qui concerne les risques de sécurité en ligne pour les enfants, la proposition de la Commission vise à encourager les États membres à renforcer leurs investissements dans la « sensibilisation ».

Tout comme pour le plan de balayage des contenus d’abus sexuels sur mineurs, il appartiendra aux co-législateurs de l’UE, au Parlement et au Conseil, de déterminer la forme finale des propositions. Et il y a peu de temps pour les négociations avant les élections parlementaires et le redémarrage du collège des commissaires plus tard cette année, bien que les propositions d’aujourd’hui pour lutter contre les abus sexuels sur mineurs puissent être moins divisives que le plan de balayage des messages. Il pourrait donc y avoir une chance qu’elles soient adoptées alors que l’autre reste bloqué.

En cas d’accord sur la manière d’amender la directive actuelle sur la lutte contre les abus sexuels sur mineurs, elle entrerait en vigueur 20 jours après sa publication au Journal officiel de l’UE, selon la Commission.