Facebook lance de nouveaux outils pour détecter le « revenge porn »

Alors qu’il y a un peu plus d’un an, les contenus pornographiques générés par des intelligences artificielles étaient interdits par PornHub et Twitter, aujourd’hui Facebook tente une nouvelle approche. L’objectif du réseau social est comme le rapporte The Verge, d’éviter la propagation des scandales liés à la diffusion d’images pornographiques sans le consentement de la personne concernée.
Vous savez, ces vidéos et photos gardées bien au chaud qui finissent toujours par sortir un jour ou l’autre. Facebook imagine de nouveaux outils autour de l’intelligence artificielle capable de détecter ce genre de contenus nuisibles et souvent accusés de déclencher des tentatives de suicide chez les plus jeunes. En mai dernier, la société a d’ailleurs déployé plus largement son outil pour lutter contre le « revenge porn » qui consiste à envoyer la photo en question à Facebook.

Un système de machine learning automatique est désormais capable de signaler des images suspectes à des modérateurs humains. Ces derniers pourront les vérifier et les supprimer s’ils estiment qu’elles sont néfastes pour la personne concernée. Aujourd’hui les utilisateurs du réseau social sont obligés de signaler eux-mêmes les contenus pornographiques dits « de vengeance ». Ce nouvel outil automatique permettra certainement une réaction beaucoup plus rapide et donc potentiellement moins de dégâts sur les personnes concernées.

Antigone Davis, responsable mondial de la sécurité chez Facebook précise que « souvent, les victimes ont peur de représailles et hésitent donc à signaler elles-mêmes le contenu ou ignorent simplement qu’il a été partagé. Ce contenu sera directement identifié par notre nouvel outil et envoyé aux modérateurs humains avant que quiconque n’ait le temps de le signaler. » Ce n’est pas la première fois que Facebook présente l’intelligence artificielle comme la solution idéale pour améliorer la modération sur sa plateforme. Pourtant, une intelligence artificielle ne peut pas encore comprendre le contexte dans lequel telle ou telle photo sera publiée. C’est la limite qui persiste. Attendons de voir les résultats de ce nouvel outil.