Il y a quelques semaines, la Chine avait annoncé vouloir limiter la diffusion des deepfakes, ces vidéos générées par des logiciels d'intelligence artificielle. Cette fois-ci c'est officiel : la nouvelle loi chinoise pour réglementer les deepfakes est entrée en vigueur le 10 janvier 2023. Pékin est le premier gouvernement à mettre de telles règles en place.

La Chine devient le premier pays à réglementer les deepfakes

Depuis quelques jours, la Cyberspace Administration of China (le régulateur du web en Chine), applique une nouvelle réglementation pour limiter la production et la diffusion des deepfakes sur le web. Cette initiative est la première tentative mondiale pour freiner l'une des utilisations les plus controversées des progrès de l'IA. En effet, les nouveaux outils d'intelligence artificielle posent de nombreux défis aux régulateurs du monde entier.

Au cours des dernières années, de nombreux articles de presse chinois ont détaillé des cas d'utilisation de deepfakes utilisés pour « escroquer les gens ». Par exemple, un homme vivant à Wenzhou a affirmé que des criminels avaient utilisé un deepfake pour se faire passer pour un ami. Cette fausse version de son ami lui a réclamé la somme de 7 200 dollars. En mars 2021, la Cyberspace Administration of China a décidé de sévir après la diffusion de deepfakes de personnalités chinoises.

Les opportunités offertes par des outils comme ChatGPT, le désormais célèbre générateur de texte développé par OpenAI ou encore Lensa, un logiciel pour développer des avatars numériques personnalisés, suscitent de nombreuses interrogations. Les contenus générés par l'intelligence artificielle seront désormais considérés en Chine comme étant « trompeurs » et comme pouvant « alimenter la désinformation » sur le web et les réseaux sociaux.

La nouvelle réglementation chinoise interdit notamment l'utilisation de contenus générés par l'IA pour diffuser des fausses informations ou des informations jugées « perturbatrices pour l'économie ou la sécurité nationale ». Des catégories volontairement vagues, qui laissent aux autorités une grande latitude d'interprétation. Cette loi exige également que les fournisseurs de technologies liées à l'IA, y compris les entreprises, les organismes de recherche et les particuliers, indiquent de manière visible que leurs contenus ont été créés par une intelligence artificielle.

Aux États-Unis, les législateurs américains ont également cherché à s'attaquer à la prolifération et aux abus potentiels liés aux deepfakes. Ils se sont heurtés à des problèmes de liberté d'expression. Au sein de l'Union européenne, les régulateurs ont bien avancé mais semblent avoir adopté une approche plus prudente que la Chine. Ils recommandent aux plateformes de trouver des moyens d'atténuer la capacité des deepfakes à propager de fausses informations, sans les interdire.

Selon Graham Webster, chercheur à l'université de Stanford aux manettes du projet DigiChina, « la Chine est en train d'apprendre, avec le reste du monde, quels sont les effets potentiels de ces nouvelles technologies, mais elle adopte plus rapidement de nouvelles règles. Les autres pays vont devoir observer comment évolue la situation en Chine ».