De nos jours, les réseaux sociaux sont de plus en plus gangrenés par des manipulateurs qui n’hésitent pas à mentir pour influencer l’opinion publique, qui se construit beaucoup sur les différentes plateformes. Afin de mettre fin à cette situation, la startup Astroscreen a levé un million de dollars pour développer son projet se reposant sur le deep learning et l’assistance d’analystes en désinformation pour éradiquer la manipulation de masse.

Les réseaux sociaux mettant en avant la viralité, il est très facile de faire rayonner une fake news en utilisant un thème qui va faire débat, et en la saupoudrant d’une armée de bots qui vont faire éclater la polémique en la commentant et la partageant en masse. Cette désinformation peut coûter très cher, notamment pour les marques qui perdent parfois 60% de leur valeur marchande à cause d’une diffamation.

C’est là où AstroScreen va intervenir. Via le deep learning et l’aide de ses analystes, elle entend détecter les activités coordonnées, la façon de s’exprimer des manipulateurs, ainsi que les faux comptes et les réseaux de bots. À la tête de la société se trouvent plusieurs personnes qui ont déjà prouvé leur expérience en matière de traque de fake news.

Le PDG d’Astroscreen, Al Téhérani, avait par exemple fondé une société d’analyse de l’actualité par le deep learning, qu’il a vendu en 2015 avant l’explosion des fake news. Un autre cadre de la société, Juan Echeverria, diplômé d’un doctorat à l’UCL portant sur la détection des faux comptes sur les réseaux sociaux, s’est quant à lui fait connaître avec la détection d’un bot qui contrôlait 350 000 comptes Twitter, en 2017.

Al Téhérani pense que les réseaux sociaux ont des difficultés à mettre fin à la manipulation de masse malgré les moyens investis car ils recherchent des solutions tout en n’étant pas prêts à voir leur marge diminuée. Selon lui, s’ils investissaient suffisamment de ressources, leurs profits s’approcheraient plus d’un éditeur de journaux que d’une entreprise de technologie. C’est pourquoi ils concentreraient davantage leurs efforts sur la détection des comptes s’écartant fortement de la norme. Cela ne permet que de détecter les comptes spams et les comportements très automatisés, mais pas les campagnes de désinformation sophistiquées selon Téhérani.

Reste à savoir si Astroscreen, en combinant compétences humaines et artificielles, et surveillance assidue des premiers signes de compagne de désinformation à l’encontre des marques, réussira à faire mieux que Facebook, Instagram, et aux géants des réseaux sociaux pour museler les manipulateurs.

Facebook a tout de même mis en place une « war room », et YouTube une fonctionnalité spéciale pour lutter contre les fake news. Des moyens conséquents qui semblent ne pas avoir eu un succès total.