Le conseil de surveillance de Meta va se pencher sur la diffusion de deepfakes pornographiques sur Facebook et Instagram. Un phénomène qui suscite de plus en plus d’inquiétudes au fur et à mesure que l’intelligence artificielle (IA) évolue.

Les deepfakes pornographiques toujours plus nombreux

L’organisme va analyser la manière dont Meta gère la prolifération de deepfakes pornographiques. Ces images générées par l’intelligence artificielle mettent en scène des personnes, souvent des femmes, dans des postures explicites.

Le conseil va s’intéresser à deux cas particuliers. Le premier concerne une « personnalité publique américaine » représentée dans un tel visuel. Le second implique une image générée par l’IA d’une femme indienne nue, postée par un compte qui partage uniquement ce type de contenu. Le système interne de Meta a supprimé les deux publications, mais leurs auteurs ont fait appel auprès du conseil de surveillance pour que leur post soit autorisé à nouveau.

Le conseil va évaluer si les visuels auraient dû être supprimés en vertu des politiques de contenu de Meta, selon un communiqué publié ce mardi 16 avril. « Les deepfakes pornographiques sont une cause croissante de harcèlement sexiste en ligne et sont de plus en plus utilisés pour cibler, réduire au silence et intimider les femmes, à la fois en ligne et hors ligne », commente Helle Thorning-Schmidt, coprésidente du conseil de surveillance.

Fin janvier, des images sexuellement explicites de la chanteuse Taylor Swift ont proliféré sur plusieurs réseaux sociaux, notamment X.com, anciennement Twitter. Un phénomène qui a suscité l’indignation de plusieurs personnalités politiques américaines.

« Il est essentiel de s’attaquer à ce problème, et le comité estime qu’il est important d’examiner si les politiques et les pratiques de mise en œuvre de Meta sont efficaces pour résoudre ce problème », poursuit la coprésidente.

Un organisme fondé en 2020

Fondé en 2020, le conseil de surveillance est composé d’universitaires et d’experts en droit. Il peut formuler des recommandations sur les pratiques de Meta, mais l’entreprise n’est pas obligée de les suivre. Il a déjà examiné des décisions de modération de contenu très médiatisées, notamment la décision de la firme de bannir les comptes Facebook et Instagram de Donald Trump.

Plus récemment, le conseil a émis des recommandations sur une vidéo éditée via une IA représentant Joe Biden en train de toucher sa petite-fille de manière inappropriée. Meta a par la suite annoncé que tous les contenus générés par l’IA seront étiquetés sur ses plateformes.