Pour TikTok, ByteDance aurait mis au point une fonction deepfake

C’est une information dévoilée par TechCrunch. À la suite d’une étude menée par Watchful.ai, une fonction permutation de visages a été découverte dans le code de l’application TikTok. Ce code serait aussi présent dans le code de Douyin, la version chinoise de TikTok.

Alors que la mobilisation se construit contre les deepfakes, voilà que TikTok et ByteDance vont encore faire parler d’eux.

Le code de la fonction deepfakes découvert dans la dernière version sous Android

TechCrunch a été informé de cette fonctionnalité, pour l’heure cachée sur chacune des applications, par la start-up israélienne d’étude de marché Watchful.ai. Cette dernière a réussi à activer le code dans l’application Douyin pour ensuite accéder à la fonctionnalité même si elle n’est actuellement pas disponible pour les utilisateurs.

Les captures d’écrans faites par un jeune entreprise montrent donc que les utilisateurs n’auraient qu’à scanner leur visage, en faisant des mimiques comme ouvrir la bouche, ou cligner des yeux, pour prouver que vous êtes un humain et non un robot. Ensuite l’application pourra être en mesure de vous montrer un scan de votre visage qu’il vous sera possible de manipuler, en intégrant diverses scènes ou différentes émotions. Pour la suite de la fonctionnalité, il vous sera offert de choisir le clip où vous voulez afficher votre visage et de télécharger la vidéo finale sur votre smartphone par exemple.

Les utilisateurs peuvent appliquer leur visage sur celui d’un autre en toute simplicité. Crédit : TechCrunch

TechCrunch et Watchful.ai soulignent que des vérifications d’identités sont visibles dans le code, cela pour que les utilisateurs n’utilisent la fonctionnalité qu’avec leur propre visage, dans le but, donc, de lutter contre les fausses vidéos et la désinformation qu’il est possible d’y associer. D’ailleurs, la Chine qualifie désormais de crime la création de ce type de vidéo, dans le but de désinformer.

TikTok nie ce projet de fonctionnalité

Interrogés par TechCrunch, TikTok et Douyin n’ont, ni l’un ni l’autre, confirmé cette potentielle future fonctionnalité. TikTok a d’ailleurs refusé de répondre à ces questions tandis qu’un porte-parole de l’application n’a pas tardé à prendre la parole, indiquant que “après avoir vérifié auprès des équipes, je peux confirmer que ce n’est certainement pas une fonction dans TikTok, et nous n’avons aucune intention de l’introduire. Je pense que ce que vous regardez peut-être quelques chose pour Douyin […]. Nous ne travaillons pas sur Douyin ici à TikTok”.

Du côté de la version chinoise de TikTok, un porte-parole a également pris la parole, indiquant seulement que l’application “suit les lois et les règlements des juridictions de la Chine”. Ainsi, si pour l’heure la fonctionnalité peut être activée sur Douyin, ce n’est pas le cas sur TikTok, malgré la présence du code. Il se pourrait donc que la fonctionnalité ne soit jamais lancée, sur aucune des deux applications.

Lancée, cette fonctionnalité introduit avec elle, de nouveaux enjeux liés à la sécurité et la confidentialité des utilisateurs. Et si l’application est déjà bannie des smartphones de l’armée américaine, il ne serait pas étonnant de voir cette interdiction étendue à une échelle plus large, couvrant notamment l’ensemble du pays.