Le géant des réseaux sociaux a récemment annoncé qu’il veillait à ce que ses différentes plateformes deviennent des espaces communautaires sécurisés pour les femmes. En s’associant à des organismes de lutte contre le harcèlement en ligne et en développant une intelligence artificielle dédiée, Facebook veut réduire les risques.

L’IA supprimera les photos diffusées sans consentement

Facebook veut mettre l’accent sur la sécurité des femmes. Grâce à l’intelligence artificielle, l’entreprise espère lutter efficacement contre ce fléau particulièrement répandu sur les réseaux sociaux. Facebook a précisé dans un article de blog publié le 29 octobre qu’il développait actuellement une technologie de pointe pour aider à prévenir les abus et le harcèlement en ligne.

Déjà, au début du mois le groupe lançait “Restreindre” : une nouvelle fonctionnalité qui permet aux utilisateurs d’Instagram d’éviter de bloquer quelqu’un de gênant mais de minimiser les interactions. Avec cette nouveauté, Facebook cherche également à lutter contre le harcèlement en ligne. En effet, même si vous pouvez déjà bloquer les personnes que vous considérez comme nuisibles, cette nouvelle fonctionnalité est plus fine et vous évite de devoir bannir totalement une personne. Une fonctionnalité parfaite pour éviter d’être embêté par des personnes “nuisibles” ou trop engagées sur votre profil.

Objectif : améliorer la sécurité sur les plateformes du groupe

Antigone Davis, responsable de la sécurité chez Facebook, précise dans une vidéo que : “en arrière-plan, nous avons des outils comme l’intelligence artificielle et le machine learning pour prévenir le harcèlement. Nous voulons aussi donner plus de contrôle à nos utilisateurs pour qu’ils puissent facilement bloquer, masquer ou supprimer des commentaires. L’intelligence artificielle que nous développons actuellement va encore améliorer un peu plus la sécurité sur notre plateforme”.

Facebook veut aller encore plus loin : grâce à l’intelligence artificielle il dit être en mesure de détecter des images et des vidéos pornographiques partagées sans autorisation, sans que personne n’ait à les signaler. Par le biais d’une consultation majeure avec des organismes de défense des droits des femmes, des organismes de sécurité et même des linguistes anthropologues et cognitifs, Facebook a voulu s’assurer que sa politique permette d’éviter le harcèlement des femmes.

Une technologie qui s’adapte aux différences culturelles

Point important : l’intelligence artificielle développée par Facebook est capable de prendre en compte les différences culturelles qui existent dans le monde. Tandis que le fait de publier une photo de femme nue aux États-Unis pourrait lui faire honte, dans d’autres pays, le simple fait de montrer une cheville pourrait être dramatique. L’IA de Facebook est capable de prendre ces éléments en compte et d’adapter sa politique de sécurité.