Le 5 septembre 2019, Facebook lançait en collaboration avec, entre autres, le MIT et Microsoft le Deepfake Detection Challenge. Un concours qui a pour objectif de lutter contre les deepfakes, notamment en prévision de l’arrivée des élections présidentielles américaines. Ce challenge commence à donner de premiers résultats satisfaisants.

Le Deepfake Detection Challenge porte ses fruits

Tout l’objet du Deepfake Detection Challenge était de dénicher le maximum de deepfakes, ces vidéos qui font dire n’importe quoi à n’importe qui, grâce à l’intelligence artificielle. Au fil des années, les deepfakes sont passées du statut de contenus d’IA sophistiqués, à un format accessible de tous depuis Internet. Facebook part du principe que pour pouvoir les analyser et mieux les éliminer, il faut d’abord les trouver. Après des mois de compétition, nous avons déjà de premiers gagnants.

Facebook le sait, ce sera probablement la première année électorale où des acteurs malveillants tenteront d’influencer le débat politique grâce à cette technique. De fausses vidéos de candidats seront très certainement générées pour leur faire dire n’importe quoi. C’est l’occasion pour Facebook de prendre le sujet des fake news à bras le corps. Le Deepfake Detection Challenge doit permettre au réseau social de disposer d’une base de données suffisante pour pouvoir repérer plus facilement les deepfakes.

Un taux de détection des deepfakes de 65%

3 500 participants sondent les méandres du réseau social pour dénicher un maximum de deepfakes. Les algorithmes doivent apprendre à repérer ces vidéos truquées en prêtant attention à la partie la plus importante : le visage. L’ensemble de données créé par Facebook a été délibérément conçu pour être plus représentatif et plus inclusif que les autres, et pas seulement plus grand, pour éviter la discrimination. La qualité de l’IA dépend des données qui la composent. Selon Mike Schroepfer, CTO chez Facebook :

“Si votre ensemble de données ne présente pas la variance appropriée dans l’apparence des personnes réelles, votre modèle n’en aura pas une compréhension représentative. Je pense que nous nous sommes donnés beaucoup de mal pour nous assurer que cet ensemble de données soit suffisamment représentatif”.

Aujourd’hui le réseau social estime avoir un taux de détection des deepfakes de 65%. Notons que l’ensemble de données sera rendu open source pour stimuler l’industrie dans la lutte contre les deepfakes. Cependant, l’algorithme de détection de Facebook qui émanera de ces recherches ne sera lui, pas partagé.