Clearview AI, la société de reconnaissance faciale qui surveille les Américains

Alors que l’Europe envisage d’interdire la reconnaissance faciale, les États-Unis ont appris, grâce à une enquête édifiante du New York Times, que des polices locales au FBI, et un grand nombre d’administrations l’utilisent pour identifier des suspects. Un outil développé par Clearview, une entreprise qui utilise les données publiques des réseaux sociaux tout en cultivant autour d’elle le secret.

L’utilisation du logiciel décolle en 2019

À l’origine de Clearview se trouve un Australien de 31 ans, Hoan Ton-That, arrivé aux États-Unis en 2007. Après quelques tentatives sans succès pour développer des applications, dont l’une en 2015 permettait d’insérer sur ses photos la chevelure de Donald Trump, Hoan Ton-That rencontre en 2016 un ancien collaborateur de l’ex-maire républicain de New York, Richard Schwartz.

Ensemble ils fondent Clearview pour exploiter la technologie de la reconnaissance faciale. Ils parviennent à développer un outil appelé SmartChekr en 2017 et attiré des investisseurs tels que Peter Thiel, connu pour avoir investi dans Facebook à ses débuts.

Les deux hommes tâtonnent encore pour vendre leur technologie. Ils décident bientôt de se tourner vers les forces de l’ordre en utilisant notamment le carnet d’adresses de Richard Schwartz. En 2019 la police de l’Indiana parvient à résoudre en 20 minutes une affaire d’agression à main armée captée par la vidéosurveillance en utilisant la technologie de Clearview.

Grâce au réseau de Schwartz et à des prix cassés, un forfait de 2 000 dollars pour un an d’abonnement à l’outil développé par Hoan Ton-That et ses équipes, la réussite de Clearview est fulgurante. La sécurité intérieure, le FBI, les polices locales, plus de 600 organismes chargés d’appliquer la loi au travers des États-Unis sollicitent cet outil si pratique pour résoudre leurs enquêtes.

L’utilisation de la reconnaissance faciale n’est pas une nouveauté parmi les autorités américaines, mais elle était limitée jusque-là aux seuls documents officiels, permis de conduire, photos d’identité judiciaire, etc. Ce qu’amène Clearview c’est l’exploitation des images publiques des réseaux sociaux et de tout site web où une photo se retrouve publiquement diffusée.

L’entreprise revendique une base de données de 3 milliards d’images permettant de trouver des correspondances dans 75% des cas. Grâce à Clearview toutes sortes de crime ont été résolus, du vol à l’étalage au meurtre. Un officier de la police de Gainsville en Floride affirme avoir identifié une trentaine de suspects grâce à cette technologie, « Avec Clearview, vous pouvez utiliser des photos qui ne sont pas parfaites », a déclaré au New York Times le Sergent Ferrara. « Une personne peut porter un chapeau ou des lunettes, ou ça peut être une photo de profil ou une vue partielle de son visage ».

L’entreprise suscite de nombreuses interrogations.

La faille la plus prosaïque est que l’outil aurait des difficultés a identifier les personnes appartenant à certains groupes notamment ethniques, des inexactitudes qui existent dans d’autres systèmes de reconnaissance faciale. D’après Clare Garvie, chercheur au Center on Privacy and Technology de Georgetown la précision de Clearview n’est pas prouvée, ses résultats n’ont pas été attestés par le National Institute of Standards and Technology.

Clare Garvie ajoute que « plus la base de données importantes, plus le risque d’identification erronée est grand en raison de l’effet Doppelgänger [l’existence d’un sosie] ».

D’autres questions se posent sur la méthode appliquée par Clearview pour constituer sa base de données. Il semble que les photos aient été « grattées » sur les pages publiques des réseaux sociaux, une technique qui n’est pas autorisée par les conditions d’utilisations de ces derniers. Selon un porte-parole de Facebook, la plateforme « prendra les mesures appropriées si nous constatons qu’ils violent nos règles ».

Un autre problème, mal pris en compte par les autorités, est celui des serveurs où sont stockées les photos passées dans le logiciel. Ces serveurs appartiennent à Clearview et leur sécurité n’a jamais été éprouvée. Un problème grave sachant la sensibilité de telles informations.

Le contrôle des serveurs pose aussi la question du pouvoir que cela procure à l’entreprise. Le journaliste du New York Times a testé auprès de plusieurs agents les résultats lorsque son propre visage était scanné. Au-delà de la surprise de voir certaines photos dont le journaliste ignorait jusqu’à l’existence, des agents l’ont recontacté pour lui apprendre que Clearview leur avait demandé s’ils avaient parlé aux médias. Quelque temps plus tard lorsque la photo du journaliste était testée plus aucun résultat ne s’affichait.

Deux conclusions évidentes viennent à l’esprit. Clearview connait très bien les profils qui sont passés dans son logiciel et d’autre part l’entreprise est capable de manipuler les résultats affichés. Face à ces soupçons, Hoan Ton-That a répondu que la photo du journaliste a déclenché une alerte pour « un possible comportement de recherche anormal » qui serait « inapproprié ». D’autre part l’absence de résultat ultérieur ne serait que l’effet d’un « bug », corrigé entre temps.

La protection de la vie privée au cœur des débats

Évidemment lorsque la question de la reconnaissance faciale est évoquée la principale inquiétude est liée au respect de la vie privée. De ce point de vue les avis de plusieurs experts interrogés par le New York Times se rejoignent, il faut légiférer, « Nous avons compté sur l’industrie pour s’autoréguler et ne pas adopter de technologie aussi risquée, mais les barrages cèdent devant l’argent sur la table » explique Woodrow Hartzog, professeur de droit et d’informatique à l’université Northeastern, « Je ne vois pas d’avenir où nous pourrions exploiter les avantages de la technologie de la reconnaissance faciale sans l’abus désastreux de la surveillance qui l’accompagne. La seule façon de l’arrêter est de l’interdire ».

L’interdiction de la reconnaissance faciale par le législateur semble la seule et unique solution pour ne pas craindre de tomber dans un monde à la 1984 que commence déjà à devenir la Chine. En cela le projet de l’Union européenne de bannir la reconnaissance faciale un certain nombre d’années à de quoi rassurer. Difficile cependant d’imaginer les états ne pas succomber à utiliser un outil technologique aussi puissant : en France le gouvernement envisage d’utiliser la reconnaissance faciale pour accéder aux services publics.