Les institutions de l’Union européenne ont publié la semaine dernière, plusieurs recommandations pour mieux modérer les contenus publiés sur les grandes plateformes en ligne, Facebook, Google, TikTok, ou X, anciennement Twitter. Celles-ci ciblent tout particulièrement l’intelligence artificielle (IA) générative et les deepfakes, de plus en plus fréquents, notamment en période électorale.

L’UE veut que les contenus générés par l’IA soient clairement identifiables

Alors qu’en mai 2024 se tiendront les élections européennes, le spectre des fake news plane. Si à la fin des années 2010, le sujet était très préoccupant, l’arrivée des deepfakes toujours plus perfectionnés inquiète. Ces derniers sont générés grâce à des IA fonctionnant à l’aide de grands modèles de langages (LLM). Ces outils sont capables de générer des textes très crédibles, et même des images, des extraits audios ou vidéo très réalistes.

« L’IA générative peut notamment être utilisée pour induire les électeurs en erreur ou pour manipuler les processus électoraux en créant et en diffusant du contenu synthétique inauthentique et trompeur concernant les acteurs politiques, la fausse représentation d’événements, de sondages électoraux, de contextes ou de récits, » indique l’UE. La semaine dernière, les instances européennes définissaient les contours de la directive sur la lutte contre la violence à l’égard des femmes. Elle faisait la part belle autour de la lutte contre les deepfakes pornographiques. Désormais, l’UE s’attaque aux utilisations de l’IA générative qui nuisent au processus démocratique européen.

Une des suggestions pour limiter ces usages consisterait à étiqueter les contenus générés par une IA. Ce filigrane ou cette mention devrait être visible pour tous les internautes, et être maintenu si le contenu venait à être partagé. Outre-Atlantique, un consortium de 200 entreprises travaille sur la création d’une telle étiquette qui ne serait pas immédiatement visible, mais présente dans les métadonnées du contenu généré.

Pour mettre en place cet étiquetage, l’UE veut s’appuyer sur l’AI Act, approuvé au début du mois par les 27 États membres. Cette réglementation contient plusieurs mesures en lien avec l’IA générative, que l’Union juge « particulièrement pertinent dans ce contexte ». Le cadre législatif oblige les fournisseurs de systèmes génératifs à utiliser des solutions techniques de pointe pour garantir que le contenu qu’il a créé soit marqué comme tel.

Aussi, l’UE se servirait du Digital Services Act, le règlement européen sur la modération et la gouvernance des contenus, afin d’inciter les réseaux sociaux à trouver des solutions pour identifier ces contenus. Meta s’est d’ores et déjà emparé de la question, qui la juge cruciale. La firme de Mark Zuckerberg a appelé toute l’industrie du numérique à collaborer pour introduire des filigranes dans les métadonnées d’un contenu généré par l’IA. Enfin, OpenAI cherche à encoder les images générées par DALL-E afin de retracer leur provenance.