Reconnaissance faciale : le nouveau partenariat très controversé de Clearview AI

L’entreprise de reconnaissance faciale Clearview AI s’est associée à l’U.S. Immigration and Customs Enforcement (ICE). Un partenariat qui fait couler beaucoup d’encre tant les deux entités ont recours à des pratiques controversées.

Deux organismes controversés

Repérée par Tech Inquiry, cette collaboration est décrite comme un « soutien de mission » et « licences Clearview ». La firme spécialisée dans la reconnaissance faciale va ainsi toucher 224 000 dollars de la part de l’agence gouvernementale américaine, qui est notamment chargée du contrôle des frontières du pays.

Clearview AI est loin de faire l’unanimité : les géants du numérique voient d’un très mauvais œil la firme dont le siège social se trouve à New York. Par ailleurs, le Royaume-Uni et l’Australie enquêtent sur les pratiques de l’entreprise depuis la publication d’un article du New York Times qui révélait qu’elle avait récupéré près de 3 milliards de photographies de personnes sur Internet, et plus particulièrement les réseaux sociaux. Elle offrirait également ses services à des pays où les droits de l’Homme sont bafoués. Au total, ce sont plus de 600 organismes censés faire respecter la loi qui exploitent sa technologie.

De son côté, ICE a aussi essuyé de nombreuses critiques. L’agence a par exemple infiltré une base de données de millions de photographies de permis de conduire sans que les personnes concernées ne soient prévenues. Elle est en outre pointée du doigt pour détention indéfinie de personnes à la frontière américano-mexicaine, et sépare les familles qui arrivent d’Amérique du Sud en enfermant les enfants dans des centres de détention.

La reconnaissance faciale parfois raciste

Contacté par The Verge, le PDG de Clearview AI Hoan Ton-That a brièvement détaillé les raisons de ce partenariat controversé :

« L’accord de Clearview AI est avec le Homeland Security Investigations (HSI), qui utilise notre technologie pour leur unité d’exploitation des enfants et les enquêtes criminelles en cours. Clearview AI a permis à HSI de sauver des enfants de l’exploitation et des abus sexuels dans tout le pays ».

Néanmoins, le doute reste de mise lorsque l’on connaît l’historique douteux de ces deux organismes… La technologie de Clearview AI serait par ailleurs faillible et discriminante, à l’image des autres outils de reconnaissance faciale qui ont fait preuve de biais racistes en identifiant de manière moins précises les personnes de couleur.

C’est notamment pour cette raison qu’IBM a pris la décision de se retirer du marché de la reconnaissance faciale, que l’entreprise juge trop raciste et très difficile à faire évoluer.