Diffuser une deepfake en Chine constitue désormais un crime

Le gouvernement chinois a fait savoir qu’à compter du 1er janvier 2020, la Cyberspace Administration of China (CAC) appliquera une nouvelle loi qui consiste à punir un créateur de deepfakes comme un criminel.

Un créateur de deepfake est considéré comme un criminel

En Chine, dans un mois, il sera obligatoire de préciser qu’une vidéo a été créée grâce à l’intelligence artificielle et qu’elle rapporte de fausses informations, pour qu’elle soit publiée de manière légale. Si ces mentions n’apparaissent pas, le créateur de la deepfake sera considéré comme un criminel aux yeux des autorités chinoises et donc traité comme tel. Le South China Morning Post rapporte les propos de la CAC :

« Avec la démocratisation des nouvelles technologies et de l’intelligence artificielle dans l’industrie de la vidéo et de l’audio en ligne, nous avons identifié plusieurs risques. Des contenus comme les deepfakes peuvent perturber la véracité des informations diffusées ainsi que l’ordre social dans le pays. L’intelligence artificielle utilisée dans cet objectif précis pourrait avoir un impact négatif sur la sécurité nationale de la Chine. Pour cette raison, nous ne tolérerons aucun écart ».

Un phénomène qui inquiète les gouvernements du monde

Les deepfakes sont conçues grâce à une technique d’intelligence artificielle qui consiste à superposer des images et des vidéos existantes sur d’autres images et/ou vidéos pour faire dire ce qu’on veut à n’importe qui. Au début du mois d’octobre, la Californie légiférait également sur la question de l’interdiction de ces vidéos trompeuses.

Le gouverneur de Californie a ratifié, le 3 octobre, 2 lois contre les deepfakes politiques et pornographiques. Dans l’État américain, il est désormais illégal de publier une vidéo manipulée pour discréditer un candidat Californie, dans les 60 jours qui précèdent une élection. La seconde loi vise à encadrer l’usage de cette technique dans la pornographie.

Les géants du web s’en mêlent aussi

Facebook et Twitter tentent de trouver des moyens efficaces de lutter contre ce fléau. À ce propos, Facebook a récemment annoncé ses équipes allaient travailler avec Microsoft et le MIT pour mieux détecter les deepfakes et pouvoir les éliminer. Dans le cadre de cette alliance, Facebook promet de créer un ensemble de données qui pourrait être utilisé pour créer de meilleurs outils de détection. 10 millions de dollars (9 millions d’euros) sont investis dans ce projet de défense. Objectif : lutter contre les deepfakes en prévision de l’arrivée des élections présidentielles de 2020.

Tous les experts s’y attendent : les deepfakes risquent de poser un problème majeur lors des élections américaines à venir. Ce processus de permutation intelligente des visages, est en réalité une technique de synthèse d’images basée sur l’intelligence artificielle. Souvenez-vous, en avril 2018, une vidéo de Barack Obama avait été créée grâce à l’intelligence artificielle. Il convient de préciser que pour l’instant, les deepfakes sont majoritairement utilisés pour créer des contenus pornographiques. Seules 4% des vidéos publiées le sont dans un cadre politique, et bien souvent humoristique.