La modération Facebook manipulée pour faire fermer des groupes

Les membres d’un collectif appelé la Commission indonésienne de reportage ont tiré profit du système de modération rigoureuse de Facebook pour faire fermer plusieurs groupes populaires. Les membres du collectif infiltraient des groupes puis y publiaient énormément de contenus pornographiques et violents qui étaient signalés par la suite. Cette tactique appelée « Zuccing » a permis la fermeture de plusieurs groupes, que Facebook s’emploie à rouvrir.

À la suite des nombreux déboires qui ont sali son image, Facebook se montre désormais extrêmement intransigeant quand il s’agit de bloquer et bannir des comptes pour du contenu pornographique, terroriste, ou mensonger. Le géant américain a d’ailleurs encore durci ses règles il y’a peu pour pouvoir bannir illico presto tous groupes montrant un soupçon de soutien à une organisation terroriste. Cependant, ces changements qui semblent nécessaires au vu de l’explosion du contenu haineux devaient forcément l’amener à faire des erreurs, ce qui a fini par arriver cette semaine.

Les membres d’un collectif secret appelé la Commission indonésienne de reportage ont infiltré un grand nombre de groupes populaires pour y publier des contenus pornographiques et violents qui n’avaient rien à voir avec leur identité et leurs valeurs. Cela a permis au collectif d’obtenir leur bannissement.

Un vent de panique dans les groupes Facebook

Ce mercredi, après la disparition du groupe de 500 000 membres Crossovers Nobody Asked For, certains responsables de grands groupes Facebook ont commencé à réaliser les manœuvres de Zuccing dont étaient victimes leurs homologues. Cela les a poussé à mettre en place des mesures drastiques, immédiatement remarquées par les internautes et sujettes à des questionnements en masse sur Reddit.

Qu’est-ce qui se passe avec les groupes publics qui deviennent fermés ces 24 dernières heures ? Un sujet ayant suscité énormément d’engagement ce jeudi.

RUMOR:
Large numbers of Facebook Group admins are changing the privacy settings of their groups to 'Secret' due to a major spammer pumping pornographic images into Groups then reporting them causing them to be shutdown or deleted by Facebook

More info: https://t.co/JkPT51iKcR

— Matt Navarra (@MattNavarra) 16 mai 2019

Concrètement, des milliers de groupes Facebook ont changé leurs paramètres de confidentialité pour passer de « public » à « secret », afin d’empêcher quiconque de rejoindre leur communauté. Un travail de filtrage intense a été réalisé par d’autres groupes, et certains seraient allés jusqu’à supprimer tous les comptes en provenance d’Indonésie.

Le réseau social a pris des mesures

Au sujet de cet accident qui a semé la panique, un porte-parole Facebook a déclaré ceci au média The Yappie : « Nous avons retiré plusieurs groupes Facebook après avoir détecté du contenu qui violait nos politiques (…) Nous avons depuis découvert que ce contenu a été posté pour saboter des groupes légitimes et non violents. Nous nous efforçons de rétablir tous les groupes affectés et d’empêcher que cela ne se reproduise ». Malgré les déclarations du géant américain, il semblerait que les groupes les plus inquiétés par la manœuvre de la Commission de reportage restent actuellement privés.

Facebook est dans une position délicate, de par sa position et son influence, il se doit d’être intraitable avec le contenu nuisible pour la société. Cependant, il est difficile d’agir rapidement tout en gardant une modération exempte de défauts, les accidents de ces derniers jours en sont la preuve. Ceci étant, en partant du fait qu’il semble possible de rétablir les groupes après les avoir supprimés, une suppression préventive est sûrement préférable au vu de la violence des contenus parfois partagés sur le réseau social. C’est en tout cas le point de vue de plusieurs gouvernements, dont celui de l’Australie, qui a mis Facebook sous la menace d’une amende lourde chaque fois qu’il ne modérerait pas assez rapidement les contenus haineux. Une loi qui découle directement de la catastrophe de Christchurch, durant laquelle un massacre avait été partagé en direct par le tueur.

Décidément, il est encore difficile de déterminer la position qu’adoptera Facebook en matière de modération à l’avenir…