Instagram détecte le harcèlement sur ses photos grâce au machine learning

Grâce aux avancées rapides de Facebook en termes d’intelligence artificielle, Instagram a annoncé aujourd’hui sa nouvelle fonctionnalité anti-harcèlement. Dernièrement, Instagram travaille beaucoup sur l’aspect humain et sur la bonne utilisation de l’application, notamment avec sa fonctionnalité pour aider les toxicomanes ou encore celle qui répond aux questions des parents quant à l’utilisation de l’application par leurs enfants . En effet, Adam Mosseri, nouveau directeur d’Instagram, explique que sa mission est de créer une communauté plus sûre.

Le nouveau filtre anti-harcèlement sera déployé dans les prochaines semaines. Il analysera les photos et les textes publiés sur le fil d’actualité ainsi qu’en story, et pénalisera tout contenu qui atteint à la personnalité d’un utilisateur, son physique, son bien-être ou encore sa santé. L’option sera appliquée sur les vidéos et les IGTV dans un deuxième temps.

La détection du harcèlement sur Instagram peut également se faire de manière manuelle: un utilisateur qui repère un contenu nuisible peut le signaler. Il sera supprimé de l’application s’il ne répond pas aux principes de cette dernière. Tout contenu jugé comme étant une forme de harcèlement sera examiné par une équipe dédiée à la mise en place de la sécurité au sein de la communauté.

Pour aller plus loin, Mosseri annonce également l’arrivée d’un nouveau filtre en story, qui permet aux utilisateurs de propager l’amour et la positivité. Le développement de ce filtre s’est fait en collaboration avec Maddie Ziegler, auteure, danseuse et actrice, très appréciée par les jeunes. Elle a été choisie pour ce projet car elle s’exprime et partage son expérience liée au harcèlement, et utilise Instagram pour promouvoir sa positivité.