La lutte des réseaux sociaux face au terrorisme diffusé en direct

Mercredi de la semaine dernière, un allemand de 27 ans tirait sur des passants devant la synagogue de Halle en Allemagne de l’est, ainsi que devant un restaurant turc. Le tireur s’est filmé en direct pendant qu’il commettait ces actions sanglantes. La vidéo durait 35 min, et une partie a pu être diffusée en direct sur Twitch, plateforme de streaming. Comme le rapporte un article dans Vice il semblerait cependant que le partenariat entre les plateformes de partage en partenariat avec les gouvernements, aient porté leurs fruits, évitant ainsi une rediffusion massive de la vidéo, comme ce fut le cas par le passé.

Une lutte compliquée et sordide

La diffusion de l’attaque aura permis à 2200 personnes de la visionner. Des copies continuent de circuler sur le réseau Telegram, et 4chan, selon Vice. Néanmoins, le phénomène a été contenu sur des plateformes comme YouTube ou Facebook, ce qui n’a pas toujours été le cas.

En mars, lors de l’attaque de deux mosquées dans la ville de Christchurch, l’auteur des faits avait lui aussi filmé son intervention meurtrière en direct. Malheureusement, la vidéo avait eu le temps d’être visionnée 200 fois en temps réel, avant que quelqu’un ne la signale à la plateforme. Le premier signalement avait eu lieu 12 min après la fin de la vidéo en direct, soit 29 minutes exactement après le début de la tuerie. La vidéo avait ainsi atteint les 4000 vues, et des internautes avaient trouvé le temps de faire des copies pour les éditer sur d’autres sites peu recommandables. À l’image de 8chan, réputé pour accueillir anonymement des commentaires homophobes, racistes, sexistes etc. Le site se compose de beaucoup de personnes déjà exclues de 4chan pour leurs propos extrémistes en tout genre. Google avait d’ailleurs supprimé depuis 2015 le nom de domaine 8chan de ses résultats de recherche, car le site contenait des éléments pédopornographiques.

Ainsi, même si Facebook avait bien entendu supprimé le profil du tueur de sa plateforme ainsi que d’Instagram, le mal était fait. D’après les chiffres rapportés par Vice, en 24h, pas moins de 300 000 copies étaient de nouveau en circulation sur Facebook. Suite à cet évènement choquant et outrageant, avait eu lieu le « Christchurch Call », appel notamment rédigé par la femme Premier ministre néo-zélandaise, Jacinda Ardern et du Président Emmanuel Macron. Cet appel lancé deux mois après le drame en Nouvelle-Zélande, visait à mettre en place des mesures alliant les autorités gouvernementales et les sociétés tech pour éliminer les contenus terroristes et extrémistes sur les plateformes numériques. Le rapport prenait soin de rappeler la nécessité de veiller à préserver la liberté d’expression sur internet, mais précisait que celle-ci ne pouvait encadrer des contenus délibérément violents et/ou terroristes.

C’est ainsi qu’a été créé le GIFCT (Global Internet Forum to Counter Terrorism), organisme indépendant dont l’objectif est de lutter contre l’exploitation des plateformes digitales par le terrorisme et l’extrémisme. Le groupe se constitue de membres représentants de Facebook et ses filiales Instagram et WhatsApp, Google et sa filiale YouTube, Microsoft, Twitter, et 26 États depuis mai 2019. Dans les mois qui ont suivi Amazon, LinkedIn ainsi que d’autres collaborateurs spécialisés en nouvelle technologie ont rejoint l’organisme indépendant, comme le rapportait Facebook le 23 septembre dernier sur sa page Newsroom. Le communiqué rappelait les objectifs établis : analyse en temps réel des contenus, mise en place d’algorithmes ou de signalements permettant de détourner les utilisateurs susceptibles de diffuser ce genre de contenus. Il était également précisé que leur nouvel objectif était de « prévenir » ce genre d’action.

Durant l’attaque de mercredi dernier, ces objectifs ont été mis à l’épreuve. Après avoir supprimé la vidéo du tueur allemand, Twitch a ensuite partagé les données de la vidéo concernée converties sous forme de hash (empreinte unique faite à partir des données fournies, utilisée pour les mots de passe notamment) au GIFTC. Ces donnés ont ensuite pu être transmises aux autres plateformes membres, et éviter ainsi la propagation de la vidéo meurtrière.

Celle-ci a cependant été diffusée sur d’autres plateformes, plus petites, qui ne communiquent pas aussi facilement entre elles, ainsi qu’avec les plateformes déjà citées. Adam Hadley, directeur de Tech Against Terrorism, entrée en partenariat avec GIFTC, explique qu’établir une réelle coordination avec ces plus petites structures reste très difficile, mais constitue la clé pour une lutte efficace envers les terroristes et extrémistes qui emploient ces canaux.

D’après Brian Fishman, à la tête de l’équipe « contreterrorisme » de Facebook, c’est un objectif difficile à mener, car certains collègues ne « veulent pas jouer le jeu » déclare-t-il à Vice, et c’est une chose qu’il est nécessaire de réaliser pour avancer précise-t-il.

Autre problème également, qui n’est pas cité dans l’article, la fascination probante de l’être humain pour le sordide, et le voyeurisme. Voyeurisme, qui par ailleurs, fait le succès des réseaux sociaux et des plateformes vidéo. Il semblerait que les criminels, terroristes, extrémistes capables de passer à l’acte et de filmer les violences commises profitent de la perversité d’un système, dont il est désormais difficile de se libérer. Les citoyens peu responsables capables de véhiculer ces crimes, pire, de les cautionner, justifient par la même occasion la création d’organismes tels que le GIFCT, qui sous couvert de vouloir faire de la prévention, pourrait risquer d’entrer dans un système de surveillance accru, faisant fi, malgré lui, de la liberté individuelle déjà bien égratignée depuis plusieurs années par les entreprises numériques.