Facebook dévoile une IA capable de détecter les faux comptes

Dans un article publié sur le blog dédié à la prise de paroles des ingénieurs de l’entreprise, Facebook a dévoilé, le 22 avril 2020, une intelligence artificielle capable de détecter les faux comptes. Elle viendrait s’ajouter aux filtres de détection de comportement abusif appliqués au moment de l’inscription sur la plateforme. L’objectif de l’entreprise américaine : observer comment les vrais utilisateurs procèdent pour ajouter leurs amis et baser l’IA sur ce modèle pour détecter les faux comptes.

SybilEdge, le nouvel algorithme de Facebook

Les chercheurs et ingénieurs de Facebook ont récemment présenté SybilEdge, leur nouvel algorithme qui pourrait prochainement leur permettre de gagner du temps dans la lutte contre les faux profils sur le réseau social. Avec ce nouvel outil, Facebook souhaite mettre à mal la diffusion de fausses informations, souvent seule activité de ces comptes. L’autre objectif est de protéger les utilisateurs contres différents genres d’attaques.

Selon l’article, SybeilEdge pourrait détecter les faux comptes Facebook en moins d’une semaine. L’IA se baserait sur leur liste d’amis et les demandes effectuées suite à l’inscription. Celles-ci sont révélatrices du profil d’une personne. En effet, les personnes se cachant derrière des faux comptes vont chercher une cible, bien souvent en fonction d’un sujet en particulier, puis lui envoyer une demande d’amis. Cette technique a d’ailleurs probablement été utilisée dans le cadre de la pandémie de Covid-19 et plus précisément lors de la diffusion d’une théorie du complot liée au virus.

SybilEdge va ensuite observer les faits : un faux compte est plus susceptible d’accumuler les refus de demandes d’ajout d’ami qu’une personne créant son vrai profil. L’algorithme aurait été pensé pour catégoriser deux types d’utilisateurs : ceux qui acceptent les fausses demandes en ami, et ceux qui acceptent tout le monde, si le compte semble réel. L’utilisateur qui accepte beaucoup de monde, dont les faux profils va permettre aux ingénieurs de savoir que l’émetteur de la demande peut potentiellement être considéré comme un faux compte.

Une précision de plus de 90% selon les ingénieurs du réseau social

Selon Facebook, SybilEdge est un système précis à plus de 90% pour détecter les faux comptes ayant émis 15 demandes d’amis. Le taux de réussite chute à 80% pour ceux qui n’en ont fait que 5. Facebook a précisé, à propos de son nouvel outil, “SybilEdge nous aide à identifier les individus malveillants rapidement et d’une manière qui peut être expliquée et analysée. Dans un avenir proche, nous prévoyons d’étudier d’autres moyens qui peuvent accélérer encore la détection de comptes abusifs et aider à prendre des décisions en toute confiance encore plus rapidement. Nous prévoyons d’y parvenir en mélangeant des modèles basés sur des fonctionnalités et des modèles basés sur le comportement”.