Twitter n’a pas la réputation d’être un lieu de débat apaisé et serein, aussi la conclusion d’un article scientifique (pdf) publié par des chercheurs du MIT en mai 2021 ne surprendra pas : ils ont démontré que corriger une personne diffusant une fake news sur le réseau social avait tendance à augmenter sensiblement sa propension à en diffuser et à tenir des propos nocifs.

Dans l’article diffusé au sein de la publication « 2021 CHI Conference on Human Factors in Computing Systems », l’équipe de chercheurs explique sa problématique : comment réagit un utilisateur après qu’une de ses publications, fausses, a été corrigée par un autre ? Les habitués de Twitter auront sans doute déjà leur petite idée.

David Rand, l’un des scientifiques ayant pris part à l’étude, a énuméré à Vice les hypothèses de départ de l’équipe, « La correction directe pourrait être une prime d'exactitude encore plus puissante - ou, elle pourrait se retourner contre les gens en les mettant sur la défensive ou en concentrant leur attention sur des facteurs sociaux (par exemple l'embarras) plutôt que sur l'exactitude ».

La méthodologie de l’étude

Les chercheurs ont mis au point une méthodologie pour confronter leurs théories à la réalité. 11 fake news politiques, libérales ou conservatrices, ont été sélectionnées. Par exemple, « Les immigrés illégaux ont tué 10 150 Américains en 2018 » ou « Donald Trump a viré de l'un de ses hôtels un vétéran handicapé à cause de son chien thérapeutique ». Chacune de ces affirmations a été débunkée au préalable par un site spécialisé, bien connu aux États-Unis, Snopes.

Tableau listant 11 fake news diffusées sur Twitter

Les fake news diffusées sur Twitter utilisées par les chercheurs du MIT.

Il a ensuite fallu sélectionner les twittos « cobaye ». 2000 ont finalement été retenus selon plusieurs critères : une opinion politique identifiable, moins de 15 000 abonnés, diffuser des fake news… Les scientifiques ont surreprésenté les opinions proches de la droite américaine, plus susceptibles de diffuser des nouvelles trompeuses. 75,6% profils identifiés comme conservateurs ont été sélectionnés contre 24,6% jugés libéraux.

Des indicateurs ont été utilisés pour juger la qualité des sources utilisées par les utilisateurs, leurs orientations partisanes et, grâce au système de deep learning, Google Jigsaw Perspective API, la toxicité de leurs publications.

Bots Twitter contre fake News

Dernière étape : la création d’une armée de bots qui aura la tâche la plus périlleuse, contredire la personne publiquement sur Twitter, « Nous avons gardé la race et le sexe constants pour tous les bots afin de réduire le bruit, et nous avons utilisé des hommes blancs puisqu'une majorité de nos sujets étaient également des hommes blancs » détaille David Rand. Après trois mois de maturation pour gagner en crédibilité, atteindre un nombre d’abonnés significatifs, les bots ont envoyé leurs réponses aux fake news.

1 454 messages stéréotypés ont été envoyés. Globalement ils commençaient tous par une formule de politesse, suggéraient que l’information diffusée pouvait être fausse, le tout avec le lien d'article de Snopes.

Le screen de deux tweets, l'une fake news, l'autre correctif

Un exemple de message correctif envoyé par les bots.

Des résultats qui n’étonnent pas

Les comptes corrigés ont été observés durant 24 heures. David Rand a décrit à Vice les conclusions tirées de l’expérimentation, « Nous avons constaté que le fait d'être corrigé diminuait légèrement la qualité des nouvelles que les gens retweetaient par la suite (et n'avaient aucun effet sur les tweets primaires) ». La toxicité du contenu a elle aussi augmenté en réaction à la correction.

Le chercheur s’est dit déçu de l'issue de l'étude, il aurait préféré que la correction entre utilisateurs favorise les publications de meilleures qualités. Toutefois, selon lui, les résultats « soulignent l’élément social des médias sociaux ». Se faire reprendre n’est jamais agréable. Le chercheur formule l'hypothèse que la pression sociale induite par la correction publique incite au repli vers ses partisans. En France les fake news diffusées via Twitter alertaient déjà les autorités fin 2020, cette étude est l'occasion de réfléchir à de meilleures méthodes pour contrer ce phénomène.