Facebook a développé une IA pour détecter qui est à l’origine d’un deepfake

Le 16 juin, dans une note de blog, Facebook a indiqué s’être associé à la Michigan State University. Cette collaboration a permis de développer une intelligence artificielle (IA) qui non seulement permet de mieux détecter les deepfakes, mais aussi de remonter à leur source pour savoir qui les a créées.

Facebook peut déduire qui a créé un deepfake

Depuis plusieurs années, les deepfakes se multiplient sur internet. Pour rappel, ce sont des images truquées hyperréalistes qui sont utilisées pour manipuler les internautes ou propager des fake news. Créés à partir d’une intelligence artificielle, ils sont, au fil des années, de plus en plus réalistes, au point qu’il en devient difficile de démêler le vrai du faux.

Plusieurs solutions avaient déjà été mises au point pour détecter les deepfakes. Or, l’IA était capable de déceler seulement ceux conçus à partir de modèles qu’elle avait déjà rencontrés lors de sa phase d’apprentissage. Aujourd’hui, Facebook fait un pas en avant grâce à une technique bien précise : la rétro-ingénierie. Cela consiste à étudier un système afin de déterminer son fonctionnement interne et, dans ce cas, une photo ou une vidéo. Il va alors la déconstruire pour pouvoir repérer les imperfections ajoutées au montage, et ce, même lorsqu’elle est inconnue de l’IA.

L’intelligence artificielle est capable de détecter les caractéristiques communes de certains deepfakes et ainsi savoir qui les a créés. Image : Facebook

“En photographie numérique, les empreintes permettent d’identifier quel appareil a été utilisé pour produire l’image”, ont expliqué les chercheurs. Le but est d’appliquer ce principe aux deepfakes. Pour cela, ils ont mis au point un réseau d’estimation qui s’appuie sur les mêmes propriétés qu’une empreinte digitale, comme sa magnitude ou sa nature répétitive. Une fois estimée par l’IA, elle pourra détecter les caractéristiques du modèle qui a permis de créer un ensemble de deepfakes, mais aussi leurs similitudes pour savoir si plusieurs photos proviennent de la même source.

Le projet n’en est qu’à ses débuts, mais n’en est pas moins prometteur. Tout comme Facebook, de nombreux géants de la Tech se mobilisent pour lutter contre les deepfakes. L’année dernière, Microsoft a présenté un logiciel pour lutter contre ces derniers. Il s’est avéré très utile pour lutter contre la désinformation avant l’élection américaine. Il en va de même pour Google, qui avait dévoilé Assembler, un outil pour aider les médias à mieux vérifier l’authenticité des photos et détecter celles truquées.