Au cours de l’année 2019, Facebook a, une fois de plus, dû faire face à un fléau de taille : les faux comptes. Le réseau social vient de dévoiler la manière dont il a traité le problème. Une intelligence artificielle basée sur un modèle de machine learning a supprimé près de 6,6 milliards de faux comptes.

L’IA Deep Entity Classification a supprimé 6,6 milliards de faux comptes

C’est un peu comme le jeu du chat et de la souris : dès qu’un faux compte est supprimé, un autre apparaît. C’est un travail sans fin pour les équipes de Facebook. Pour faire face à ce fléau qui ne semble pas s’estomper au fil des années, une équipe d’ingénieurs de Facebook a mis au point un outil d’apprentissage particulièrement efficace, qui a déjà permis de supprimer 6,6 milliards de faux comptes en 2019. Ils ont développé une intelligence artificielle baptisée Deep Entity Classification (DEC). Un modèle basé sur le machine learning capable d’analyser le comportement des profils ainsi que leurs interactions avec le reste de la communauté.

Pour effectuer son travail, l’intelligence artificielle va chercher des informations en profondeur : les interactions d’un profil dans des groupes, son activité de suivi des pages, la manière dont il interagit avec le reste de sa communauté… Bref l’IA de Facebook est capable de savoir très rapidement si un compte a réellement été créé par une personne humaine ou s’il ne s’agit que d’un bot. Une avancée de taille dans cette lutte sans fin.

DEC pousse même l’analyse encore plus loin. Lorsque l’intelligence artificielle a repéré un profil qui pourrait s’apparenter à un faux compte, elle analyse aussi le nombre d’administrateurs présents dans le groupe où le profil se trouve, les membres qui le composent ou encore la date de création du groupe. Une analyse poussée de la communauté du profil suspect est également réalisée pour prendre la bonne décision finale. C’est ce que Facebook appelle des “caractéristiques profondes”.

La guerre est loin d’être gagnée pour Facebook

Pour Bochra Gharbaoui, responsable de la science des données chez Facebook, le déploiement de cette IA est une réussite. Elle a déclaré à que : “notre intelligence artificielle a permis de réduire de 27% le volume estimé de faux comptes. J’estime que le volume de faux comptes sur Facebook est maintenant de 5%. Le problème est le cycle d’adaptation féroce des faux comptes. Ils sont de plus en plus sophistiqués”.

L’intelligence artificielle rassemble 20 000 informations pour chaque profil étudié. C’est désormais nécessaire d’après Facebook, car les faux comptes savent parfaitement comment paraître réels aux yeux des outils de détection. L’analyse doit donc être poussée, car les bots s’adaptent, au même titre qu’un virus. Facebook n’est pourtant pas certain de pouvoir gagner la guerre contre les faux comptes. Ce n’est qu’une question de temps avant que les attaquants ne trouvent un moyen de contourner ce nouvel outil.