Le géant des réseaux sociaux annonce d’importants changements à venir concernant sa manière de traiter les médias manipulés. À partir du mois de mai, tous les contenus vidéo, audio et images générés par l’intelligence artificielle (IA) sur les plateformes de Meta se verront apposer la mention « Made by AI ».

Une recommandation du conseil de surveillance

La politique actuelle de Meta dédiée à ce type de contenu « ne couvre que les vidéos créées ou modifiées par l’intelligence artificielle pour faire croire qu’une personne a dit quelque chose qu’elle n’a pas dit », explique la société dans un billet de blog. Elle stipule que les vidéos « éditées ou synthétisées » sont supprimées.

Avec cette nouvelle réglementation, tous les contenus générés par l’IA sur Instagram ou Facebook seront concernés et étiquetés de la sorte. C’est aussi le cas des vidéos, qui ne seront plus retirées, mis à part si elles violent ses conditions d’utilisation.

Une décision prise pour se conformer aux recommandations du conseil de surveillance de l’entreprise, mis en place en 2020. Il s’est exprimé sur une vidéo éditée via une IA représentant Joe Biden touchant sa petite-fille de manière inappropriée.

Si le conseil a approuvé la décision de Meta de ne pas retirer la vidéo car elle n’enfreignait pas ses règles, il lui a suggéré « de reconsidérer rapidement cette politique, compte tenu du nombre d’élections en 2024 ». De même, la société ne veut pas entraver la liberté d’expression, assure-t-elle.

Cette année, des dizaines de pays organiseront des élections, notamment l’Union européenne et les États-Unis. Les experts alertent sur l’impact potentiellement catastrophique de l’IA sur le processus démocratique. Compte tenu des immenses progrès du secteur, la technologie est utilisée pour diffuser de fausses informations et des deepfakes. Il est urgent pour les réseaux sociaux et les fournisseurs d’IA d’agir.

Des efforts à l’échelle de l’industrie

Pour identifier les contenus générés par l’IA, Meta va se baser sur son travail collaboratif entamé à l’échelle de l’industrie et annoncé en février dernier. Depuis, plusieurs entreprises dont OpenAI se sont engagées à apposer un filigrane aux médias générés par leurs modèles.

« Nos étiquettes « Made by AI » seront basées sur notre détection des signaux partagés par l’industrie des images générées par l’IA ou des personnes qui déclarent elles-mêmes qu’elles téléchargent du contenu généré par l’IA », explique Meta.

« Nous sommes d’accord sur le fait que la transparence et un contexte supplémentaire sont désormais la meilleure façon d’aborder ce contenu », poursuit l’entreprise. En se donnant mai pour date butoir, elle souhaite donner du temps aux utilisateurs de comprendre son processus d’identification des contenus générés par l’IA, afin qu’ils n’oublient pas de le mentionner en postant leurs publications.