Le fait d’être anonyme sur internet permet bien des méfaits. Parmi les plus répandus sur les réseaux sociaux, forums et salons de discussions, nous retrouvons le harcèlement en ligne. Afin de se prémunir de cette menace, Discord vient d’annoncer le rachat de Sentropy, une entreprise qui confectionne des solutions boostées par l’IA afin de détecter et supprimer les comportements haineux et le harcèlement sur internet.

La modération va monter en niveau sur Discord

Aujourd’hui, Discord dispose d’équipes de modération humaines, mais aussi d’administrateurs bénévoles afin de confectionner des directives permettant de réguler les conversations sur sa plateforme. Le média TechCrunch souligne d’ailleurs que l’entreprise disposait en mai 2020 d’une équipe de confiance et de sécurité dédiée à la protection des utilisateurs et à l'élaboration de politiques de modération de contenu représentant 15 % de son personnel.

Pour faciliter la modération, Sentropy vient d’être rachetée par Discord. L’objectif de cette acquisition est simple : intégrer directement les produits de la société dans les outils de modération de Discord. Par le biais de cette décision, la plateforme envoie ainsi un message fort concernant la gestion des contenus toxiques et du harcèlement sur ses serveurs.

Dans un billet de blog, John Redgrave, PDG de Sentropy, explique ainsi : « Nous méritons tous une sécurité numérique et physique, et les modérateurs méritent de meilleurs outils pour les aider à faire l'un des travaux les plus difficiles en ligne, plus efficacement et avec moins d'impacts néfastes ».

Lancé durant l’été 2020, Sentropy est réputé pour son système d’IA permettant de suivre et de nettoyer les plateformes de tout harcèlement, abus ou haine en ligne. Des outils indépendants des sites ont ainsi été créés pour aider à la modération sur internet. « Nous sommes ravis d'aider Discord à décider comment partager le plus efficacement possible avec le reste de l'Internet les meilleures pratiques, la technologie et les outils que nous avons développés pour protéger nos propres communautés », conclut John Redgrave.

Les mois à venir nous permettront ainsi de découvrir comment Discord va intégrer ces nouveaux outils de modération. En attendant, la plateforme a récemment annoncé l’arrivée de profils plus détaillés afin de permettre aux utilisateurs d’en dire un peu plus sur leur personnalité aux autres membres des différentes communautés Discord.