Si en Chine, diffuser une deepfake est désormais un crime, dans le reste du monde, cet hypertrucage d’images basé sur l’intelligence artificielle est un véritable problème. Aussi, pour associer du son à ces deepfake, des plateformes de synthèse vocale sont mises au point et dans certains cas, le système n’a besoin que de quelques secondes pour cloner une voix. Ressemble.ai lance désormais deux outils, l’un pour lutter contre les deepfake et un second dédié au clonage de voix.

L’objectif est à la fois de développer le clonage de la voix et de détecter les trucages visuels

Zohaib Ahmed est un ancien ingénieur logiciel passé par Magic Leap, mais aussi BlackBerry. Il est également le fondateur de Ressemble.ai, créé avec Saqib Muhammad.

Ensemble, ils ont travaillé sur la synthétisation vocale dans le but de créer une plateforme qui permettrait donc de cloner des voix à partir de données vocales, et plus précisément, un lot de données de petite taille. Ainsi, leur service, nommé Resemble Clone, a été pensé pour être en mesure de cloner une voix à partir d’un enregistrement de quelques secondes seulement.

Les deux fondateurs ont donc lancé ce service, mais pas seulement. Ils ont aussi pensé à un outil pour détecter les deepfakes. Nommé Resemblyzer, l’outil utilise l’intelligence artificielle et l’apprentissage automatique pour détecter les deepfakes.

Si d’une part, les entrepreneurs proposent un outil qui peut être utilisé pour créer des deepfakes, de l’autre, ils veulent lutter contre en les détectant. Face à cela, Zohaib Ahmed a déclaré : « Nous avons décidé de créer un produits qui aide les créatifs à surmonter l’obstacle de la création de contenu audio », il estime que « il existe un besoin important et croissant de clonage vocal rapide et précis ». L’outil ici est donc destiné à l’industrie du divertissement plutôt qu’à quiconque ayant envie de créer une deepfake. Et bien qu’ils n’aillent pas de paire, les deux outils pensés par Ressemble.ai ont leur importance, d’une part pour les évolutions dans le domaine du divertissement et d’autre part dans la lutte engagée contre cette pratique.

Les enjeux liés aux outils de création de deepfakes

Aujourd’hui, les logiciels, gratuits notamment, qui permettent de remplacer un visage par un autre dans une vidéo sont de plus en plus nombreux. Ils propagent parfois de faux propos. Cet outil qui peut se traduire telle une arme de désinformation massive, utilisée notamment pour parodier des discours politiques de personnalités, à l’instar de Donald Trump et de la fin du VIH, dans un deepfake pensée par Solidarité Sida.

Néanmoins, selon une récente étude, les deepfakes n’ont rien de dangereux pour l’Information bien qu’il s’agisse du domaine le plus mis en avant. En effet, 96% des vidéos truquées sont à caractère pornographiques. Malheureusement, cette tendance continue de s’accentuer.

En plus d’usurper l’identité de personnes ces outils leur font faire dire ou faire des choses qu’elles auraient ne jamais souhaité. Ainsi, l’outil de détection proposé par Ressemble.ai a son importance pour lutter contre cela.