Les contenus pornographiques générés par IA interdits par PornHub et Twitter

Quelques plateformes, dont Twitter et PornHub, ont indiqué qu’elles interdisaient maintenant la pornographie générée par une intelligence artificielle. Le face swapping n’aura donc plus sa place sur ces sites web.

Il y a quelques mois, Gal Gadot faisait sensation, non pas pour sa performance dans le film Wonder Woman, mais dans une fausse vidéo pornographique. À l’origine du contenu, un utilisateur de Reddit a révélé à Motherboard avoir utilisé des outils disponibles gratuitement en téléchargement. De cette façon, il a pu incruster le visage de Gal Gadot sur celui de l’actrice X. Un cas de face swapping tout ce qu’il y a de plus commun, si ce n’est qu’il impacte directement l’industrie pornographique et surtout, notre vision de ce qui est réel ou non. Bien que le résultat ne soit pas parfait et qu’il soit possible de déceler les erreurs, il n’en reste pas moins que Twitter et PornHub ont préféré interdire la pratique. Selon les plateformes, la pratique n’est pas consensuelle.

La dernière tendance pornographique baptisée deepfake risque d’être (un peu) mise à mal par ces nouvelles règles. L’un des sites pornographiques les plus célèbres de son genre, PornHub, a annoncé qu’il bannissait tout contenu de ce type à partir d’aujourd’hui. À ce titre, l’un des porte-paroles a précisé à Motherboard : « Nous ne tolérons aucun contenu non consensuel sur le site et nous supprimons tout contenu dès que nous en sommes informés […] Le contenu non consensuel viole directement nos [conditions] et consiste en un contenu tel que du revenge porn ».

Pour sa part, Twitter a annoncé peu après qu’il allait prendre la même voie que PornHub. Si la plateforme autorise les contenus pour adulte, il n’en reste pas moins que les contenus postés sans la permission des personnes concernées sont interdites. À propos de cette décision, un des porte-paroles de Twitter a précisé vouloir « suspendre tout compte dédié à la publication de ce type de contenu ».

Malgré ces récentes interdictions prises par deux importantes plateformes, il est certain que le deepfake continuera de se développer sur ces dernières. Twitter a déjà du mal à traiter les cas de revenge porn et de harcèlement, alors l’on peut imaginer qu’il en sera de même pour ce type de contenu. Quand à PornHub, le site web héberge une quantité énorme de vidéos, dont certaines sont à la base tournées pour être accessibles en version payante. Difficile pour un site web de cette ampleur de gérer autant de contenu interdit. D’ailleurs, il est encore très facile à trouver malgré l’interdiction.

Source : The Next Web