David Holz, PDG de l’intelligence artificielle (IA) génératrice d’art Midjourney, a annoncé avoir mis fin aux essais gratuits de son service. La raison de cette décision n’est pas aussi évidente que l’on pourrait croire.
Une demande trop forte
Midjourney fait partie des IA génératrices d’art les plus populaires. Récemment, sa version 5 a été déployée, permettant aux utilisateurs de créer des visuels incroyablement réalistes. Par exemple, des images de Donald Trump en train d’être interpellé, d’Emmanuel Macron dans une manifestation ou du pape arborant une doudoune ont fait le tour de la toile, bernant de nombreux utilisateurs.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
Making pictures of Trump getting arrested while waiting for Trump’s arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Ce n’est pourtant pas pour cette raison que Midjourney a décidé de ne plus permettre les essais gratuits. Dans un e-mail partagé au média The Verge, David Holz a expliqué que ce choix résultait d’« un nombre massif de personnes créant des comptes jetables pour obtenir des images gratuites ». En d’autres termes, la demande a été trop forte, entraînant des « abus ».
« Nous pensons que le coupable est probablement une vidéo virale en Chine. Cela s’est produit en même temps qu’une pénurie temporaire de GPU. Les deux choses se sont conjuguées et ont entraîné une baisse du service pour les utilisateurs payants », a continué le PDG.
Midjourney essaye (modérément) de prévenir les deepfakes
Initialement, beaucoup pensaient que le terme « abus » faisait référence aux nombreux visuels photoréalistes générés par Midjourney et publiés sur les réseaux sociaux. Néanmoins, la version 5, qui produit les visuels les plus plausibles, n’a jamais été accessible gratuitement.
Dans certains cas, la plateforme a tout de même pris des mesures pour empêcher la création de certains deepfakes. Elle tient à jour une liste de mots interdits « liés à des sujets dans différents pays, sur la base de plaintes d’utilisateurs de ces pays ». Cette liste a été agrandie au fur et à mesure que certaines images sont devenues virales.
The boys in Brooklyn could only hope for this level of drip pic.twitter.com/MiqkcLQ8Bd
— Nikita S (@singareddynm) March 25, 2023
Le terme « arrêté » y a été ajouté, après que les images de Donald Trump encerclé par la police aient parcouru la toile. Le journaliste qui a généré les images a été bannie de la plateforme. Globalement, la modération en vigueur sur Midjourney est moins restrictive sur Dall-E, l’IA génératrice d’OpenAI. En revanche, elle est plus stricte que sur Stable Diffusion, accusée de permettre la création de contenu pornographique.
Les IA génératrices d’art sont également controversées car elles sont accusées de violer les droits d’auteur. Entraînées sur de larges quantités de visuels, et notamment le travail de nombreux artistes, elles peuvent imiter leur style ou s’inspirer de leurs créations. Au début de l’année, des artistes décidaient de porter plainte contre Midjourney pour cette raison.
