Depuis ce samedi 12 mars, les autorités ukrainiennes utilisent la technologie de Clearview AI, start-up très controversée dans le domaine de la reconnaissance faciale.

Différents usages pendant la guerre en Ukraine

Au début du conflit russo-ukrainien, l’entreprise, à l’instar d’autres firmes technologiques en Occident, a proposé son aide à l’Ukraine au travers d’une lettre envoyée à Kiev par son dirigeant, Hoan Ton-That. Le ministère de la Défense ukrainien a répondu positivement à l’offre de Clearview AI, puisqu’il exploite sa technologie depuis deux jours maintenant.

Il a ainsi accès gratuitement à l’immense bibliothèque d’images de Clearview qui compte pas moins de 10 milliards de visuels, dont 2 milliards issus du service de médias sociaux russe VKontakte. La technologie de reconnaissance faciale de l’entreprise américaine peut être utilisée à différentes fins en Ukraine : réunir les réfugiés séparés de leur famille, identifier les agents russes, aider le gouvernement à démystifier les fausses informations liées à la guerre sur les réseaux sociaux, ainsi qu’à identifier les morts d’une manière plus simple que d'essayer de faire correspondre des empreintes digitales. Clearview AI assure par ailleurs que sa technologie est capable d'identifier efficacement les visages défigurés.

Comme le rapporte Reuters néanmoins, on ignore encore quel usage est fait de la technologie par les autorités ukrainiennes, qui devraient étendre son exploitation à d’autres branches du gouvernement dans les jours qui arrivent.

La reconnaissance faciale en temps de guerre… fausse bonne idée ?

Cette utilisation de la reconnaissance faciale en temps de guerre fait craindre des usages abusifs à certains experts. Si l’intelligence artificielle de Clearview AI identifie de manière erronée certaines personnes pendant les combats ou à des checkpoints, cela pourrait mener à la mort de civils, explique Albert Fox Cahn, directeur exécutif du Surveillance Technology Oversight Project à New York. « Nous allons voir une technologie bien intentionnée se retourner contre elle et nuire aux personnes qu'elle est censée aider », a-t-il déclaré.

Le gouvernement ukrainien va pouvoir utiliser la technologie de Clearview AI pour différentes raisons, comme identifier les agents russes par exemple. Photographie : Kevin Schmid / Unsplash

Il est en outre important de noter que la reconnaissance faciale n’est pas fiable à 100 %, des études par le passé ayant démontré des biais parfois racistes et sexistes des algorithmes. Par ailleurs, il est fort possible que la technologie tombe entre les mains de personnes malintentionnées : « Une fois que vous introduisez ces systèmes et les bases de données associées dans une zone de guerre, vous n'avez aucun contrôle sur la manière dont ils seront utilisés et détournés », affirme Albert Fox Cahn.

Clearview AI, un lourd passif

Clearview AI, dont la technologie de reconnaissance faciale était utilisée par plus de 2 400 services de police en 2020, est très controversée. Alors qu’en France, la CNIL lui a demandé de cesser ses pratiques illicites, c’est-à-dire la collecte et l'utilisation de données biométriques sans base légale, les gouvernements australien et britannique enquêtent eux aussi sur les pratiques de l’entreprise.

De leur côté, Google et Meta ont sommé la firme de cesser de piocher des images de visage sur leur plateforme respective. Malgré ces nombreuses critiques, Clearview AI n’en démord pas. Il y a quelques semaines, la société dévoilait une présentation financière dans laquelle elle déclarait qu’il lui faudrait un an pour être en mesure d’identifier presque n’importe qui sur la planète. Elle a également expliqué vouloir étendre ses activités pour que sa technologie soit aussi exploitée dans les secteurs de l’e-commerce ou encore de la finance.