Le gouverneur de Californie, le démocrate Gavin Newson, a ratifié le 3 octobre deux lois contre les deepfakes, sobrement intitulées AB 730 et AB 602. Pour rappel, le deepfake est une technique de permutation intelligente des visages, une technique de synthèse d’images basée sur l’intelligence artificielle. La première des deux lois s’attaque à la question des deepfakes politique. Désormais, en Californie, 60 jours avant une élection, il sera illégal de distribuer une vidéo manipulée pour discréditer un candidat. La seconde loi vise à encadrer l’usage de cette technique dans la pornographie. Tout Californien dont l’image est utilisée à ses dépens dans une vidéo pornographique grâce au deepfake pourra poursuivre le responsable.

Le deepfake, une nouvelle étape dans le revenge porn

L’utilisation pornographique du deepfake date déjà de presque deux ans. Au cours de l’automne 2017, un utilisateur de Reddit incruste plusieurs visages d’actrices célèbres sur le corps d’actrice porno. Parmi les premières victimes Gal Gadot, l’actrice incarnant Wonder Woman dans le film éponyme sorti en 2017. Cet été c’est l’application deepnude qui a fait parler d’elle. Cette fois l’IA ne permettait pas d’incruster un visage sur un corps, mais de déshabiller virtuellement n’importe quelle photo de femme. Encore récemment une fausse vidéo pornographique de Scarlett Johansson a culminé à 2 millions de vues.

Face à l’ampleur que semble prendre le phénomène, il est plus que temps pour le législateur de réagir. La Virginie a été la première à le faire en interdisant les deepfakes pornographiques au même titre que le revenge porn le 1er juillet dernier.

Des “fake news” évoluées

La seconde loi se penche, elle, sur l’aspect politique. Elle rend illégale la distribution de deepfakes créés pour décrédibiliser un candidat à une élection 60 jours avant que se tienne le scrutin.

Marc Berman, le membre du parlement californien, auteur des deux textes de loi, a déclaré que “Les électeurs ont le droit de savoir quand la vidéo, l’audio et les images qu’on leur montre sont faites pour influencer leur vote lors d’une élection à venir, qu’ils sont manipulés, qu’on ne leur montre pas la réalité.”

Plusieurs personnalités américaines ont déjà eu droit à leur deepfake. Dans l’un des plus connus, on y aperçoit Barack Obama traiter Donald Trump “d’idiot total”. Heureusement, cette vidéo diffusée par Buzzfeed a été réalisée dans un but préventif.

Ce n’est pas le cas d’une autre séquence représentant Nancy Pelosi. La présidente démocrate de la Chambre des représentants est apparue ivre au cours d’un discours. Une vidéo reprise par des militants pro-Trump avant que la manipulation soit révélée.

Encore récemment, le 23 septembre, en Italie une séquence télévisée a fait scandale. Le présentateur d’une émission satirique a utilisé la technologie du deepfake pour imiter Matteo Renzi. On aperçoit l’ancien chef du gouvernement italien insulter sans filtre ses principaux opposants politiques.

D’après un rapport du Stern Center for Business and Human Rights de l’Université de New York les deepfakes pourraient être au centre de la désinformation pour les élections à venir. La Californie a toujours eu un temps d’avance pour adapter son cadre juridique aux évolutions technologiques. Il reste à voir si le Congrès américain compte s’emparer du sujet d’ici les élections présidentielles de 2020.

En France, la députée LREM Caroline Janvier avait interpellé le gouvernement au sujet des deepfakes le 5 février dernier. Toutefois aucune mesure n’a réellement été prise contre le phénomène… Pour le moment.