X, anciennement Twitter, a vécu un week-end particulièrement agité. En cause, la prolifération de deepfakes pornographiques de la chanteuse Taylor Swift sur la plateforme, contrainte de prendre des mesures drastiques pour la stopper. Pour sa part, la classe politique américaine s’est alarmée de l’incapacité des réseaux sociaux à agir contre la désinformation issue de l’intelligence artificielle (IA).

Les recherches sur Taylor Swift ne fonctionnent plus

Les fausses images de l’artiste ont commencé à se répandre sur X ce mercredi 24 janvier, et ont été visionnées des millions de fois. Dans l’embarras, le réseau social a bloqué toutes les recherches, même légitimes, portant sur Taylor Swift. Ces dernières indiquent désormais un message d’erreur. « Il s’agit d’une mesure temporaire prise avec une grande prudence, car nous accordons la priorité à la sécurité dans ce domaine », a expliqué Joe Benarroch, responsable des opérations commerciales chez X.

Si Taylor Swift n’est pas la première célébrité victime de ce type d’acte, la réaction du public n’a jamais connu une telle ampleur. Lors d’une conférence de presse, ​​la porte-parole de la Maison-Blanche Karine Jean-Pierre a qualifié la circulation de ces fausses images d’« alarmante ».

« Si les réseaux sociaux prennent leurs propres décisions en matière de gestion du contenu, nous pensons qu’ils ont un rôle important à jouer dans l’application de leurs propres règles », a-t-elle continué. Elle a également exhorté le Congrès à légiférer sur la question.

« Ce qui est arrivé à Taylor Swift n’est pas nouveau. Depuis des années, les femmes sont la cible de « deepfakes » sans leur consentement. Et avec les progrès de l’IA, leur création est plus facile et moins coûteuse », a dénoncé la députée démocrate Yvette Clark. Les deepfakes, des images ou des sons réalistes créés par l’IA, permettent à leurs auteurs de présenter des personnalités dans des situations compromettantes ou trompeuses sans leur consentement.

Un incident qui pose question à quelques mois des élections américaines

« La publication d’images de nudité non consensuelle est strictement interdite sur X et nous appliquons une politique de tolérance zéro à l’égard de ce type de contenu. Nos équipes s’emploient activement à supprimer toutes les images identifiées et à prendre les mesures qui s’imposent à l’encontre des comptes responsables de leur publication », a indiqué X.

Depuis le rachat d’Elon Musk en octobre 2022, la plateforme a largement réduit ses équipes de modération, et promeut la liberté d’expression absolue. Régulateurs australiens et européens ont alerté sur une situation catastrophique, avec la multiplication de contenu haineux et préjudiciable sur X.

Cet incident est d’autant plus préoccupant que l’année 2024 sera riche en élections, notamment aux États-Unis. Par exemple, un deepfake de Joe Biden incitant les citoyens à ne pas voter lors de la primaire démocrate dans le New Hampshire a récemment alarmé les experts.