Alors que Facebook a décidé d’interdire les contenus faisant l’éloge du nationalisme blanc, il semblerait qu’il éprouve encore des difficultés à modérer efficacement les contenus haineux sur ses différents réseaux sociaux. Certains des mails des équipes d’Instagram (aujourd’hui sa propriété) ayant leakés dans un article du Business Insider nous révèlent les imperfections de ses règles de modération lorsqu’il s’agit de supprimer un contenu haineux mais ne se revendiquant pas comme tel.

Ce 14 mars, le célèbre adepte des théories du complot Alex Jones a publié sur son compte Instagram un tableau de l’artiste américain Mear One. L’oeuvre est considérée par un très grand nombre de personnes comme antisémite. Seulement, Alex Jones n’ayant fait aucun commentaire se rapportant à l’antisémitisme, et le tableau faisant débat, les équipes d’Instagram, aujourd’hui propriété de Facebook, ont éprouvé des difficultés à modérer le contenu, malgré le combat contre les discours haineux mené par le géant du numérique.

Facebook éprouve des difficultés à modérer le contenu haineux

© Alex Jones, Instagram.
CRÉDITS : Business Insider

Ainsi, on apprend, via les mails révélés par le Business Insider que ce post a dû faire l’objet de débats avant d’être supprimé. Les équipes d’Instagram ont dans un premier temps réfléchi sur la position de « figure haineuse » de Alex Jones et ont finalement décidé que son compte ne violait pas les normes de Facebook. Après quoi, ils se sont penchés sur les commentaires haineux sur sa publication. Sur un total de 560 réponses, seuls 23 étaient clairement en infraction avec les règles du réseau social. Ce n’était visiblement pas suffisant pour supprimer le post.

C’est l’intervention de cadres du Royaume-Uni qui a fait changer de point de vue à l’équipe. Ils ont souligné que même si le « jugement » de la publication était difficile, le fait que l’image qu’elle relaye soit largement considérée comme antisémite aurait du suffire à qu’elle soit considérée comme une violation.

La peur des médias a visiblement aussi joué un rôle dans sa suppression. Jeremy Corbyn, un politicien anglais, avait été vivement critiqué pour avoir soutenu une peinture similaire du même artiste. Un autre responsable avait donc souligné que si une oeuvre du même genre était tolérée sur le réseau social, Instagram serait la source de nombreuses critiques. Un autre cadre a clairement évoqué qu’en conservant le post « il serait facile pour les médias de dire que nous sommes incohérents ou inefficaces ».

Le post a finalement été supprimé, et au sujet du temps qu’il aura fallu pour traiter cette publication haineuse, un porte-parole de Facebook a déclaré :

« Nous voulons que les gens puissent s’exprimer librement sur nos plateformes, mais nous voulons aussi nous assurer que les propos haineux soient réprimés. C’est pourquoi nous avons des règles publiques sur ce qui est permis et ce qui ne l’est pas sur Facebook et Instagram. Comme le montre cet échange (celui ayant été révélé par le Business Insider), décider quel contenu reste en place et qui peut utiliser nos plateformes est l’une des décisions les plus difficiles que nous ayons à prendre en tant qu’entreprise et il est raisonnable que nous prenions le temps de faire les choses correctement ».