Alors que Facebook rassemble plus de 1,86 milliard d’utilisateurs actifs par mois, le Guardian a récemment dévoilé les règles de modération du réseau social, et ce n’est pas joyeux. Facebook, Twitter, ou même le fameux forum de jeuxvideos.com : chacun de ces espaces d’expression publics entraînent dérives et violences verbales. Comme le montre ce court-métrage qui met en lumière le quotidien de quelques modérateurs indiens, l’exercice est difficile et peut entrainer des conséquences psychologiques plutôt difficiles. 10 secondes pour choisir si l’on supprime ou non, c’est rarement assez quand les images sont en plein dans la zone grise. Le journal britannique braque un projecteur sur des documents internes, dont des manuels de formation très précis destinés aux utilisateurs.
De la nudité, du porn et du revenge porn
La difficulté de la modération des images de nu a fait son apparition publique lors de la censure du tableau L’Origine du monde, de Gustave Courbet. L’oeuvre a été publiée par un professeur des écoles en 2011 pour illustrer un documentaire diffusé sur Arte. Puis est venu la fameuse photographie de « La fillette au napalm », censurée aussi pour nudité. Facebook précise dans ces fameux documents internes que la nudité est autorisée quand elle est l’objet d’une oeuvre « faite à la main », mais pas « numériquement ». Les photos de nus sont autorisées en cas de portée historiques, lorsqu’elles concernent l’holocauste par exemple. Mais, difficile de considérer que « La fillette au napalm » n’est pas pour Facebook une photographie ayant une portée historique...
La nudité des bébés est autorisée quand ceux-ci ne sont pas en âge d’être debout, et que les photos ne sont pas en gros plan. Pour considérer le revende porn comme tel, il faut que « l'image soit produite dans l’intimité, qu’une personne soit nue, presque nue ou sexuellement active et enfin que son consentement puisse être mis en doute. » Zone grise donc.
De la violence verbale et physique
Pour considérer un texte ou une image comme des menaces, celles-ci doivent être « crédibles ». Il est possible d’écrire « Pour briser le cou d’une pétasse, faites en sorte de bien appuyer au milieu de la gorge », mais on ne peut pas dire « Que quelqu’un tire sur Trump ». La dernière phrase visant une personnalité publique, elle sera censurée. Les appels à la haine contre des majorités ethniques ou des personnalités publiques sont interdites et prises au sérieux.
Les violences contre les enfants ou les animaux sont parfois laissées en ligne pour « sensibiliser l’entourage » ou « identifier et aider l’enfant ». En revanche, certaines images sont marquées comme étant « dérangeantes ».
Le Guardian a mis en ligne un quiz « Ignorer ou supprimer : pourriez-vous être un modérateur Facebook ? » pour faire aussi comprendre la difficulté de la modération. Facebook a certes beaucoup de similarités avec le monde IRL, dans sa générosité comme dans sa violence, seulement, il serait peut-être bon de le tenir en laisse.
Source : The Guardian
