Aux États-Unis une étude démontre la dangereuse inexactitude des algorithmes de reconnaissance faciale

Les systèmes de reconnaissance faciale identifieraient avec plus de difficultés les personnes de couleur, rapportait le Washington Post dans un publié le 20 décembre. Cette enquête fédérale menée par l’Institut national des normes et de la technologie des États-Unis, le NIST, remet en cause l’efficacité de cette technique, largement utilisée par la police américaine.

Des conséquences inquiétantes

Le NIST parle de preuves empiriques venant à démontrer le manque d’efficacité de 189 systèmes de reconnaissance faciale. Les algorithmes tels qu’ils sont établis aujourd’hui, contiendraient encore trop d’imprécisions pouvant varier en fonction de l’âge, du sexe ou des origines de la personne.

Nous n’avons pas accès au rapport en question, et il est difficile de connaitre les conditions d’étude exactes. Plusieurs problèmes ont été relevés toutefois par le NIST, notamment en fonction des populations examinées : les Asiatiques et les Afro-américains seraient ainsi « 100 fois plus susceptibles d’être mal identifiés », comparés à « l’homme blanc », et sans énoncer les taux exacts, l’étude continue en expliquant que les Amérindiens sont les plus touchés par ce manque de précision. Ces résultats ont conduit les auteurs du rapport à constater que ces imprécisions pourraient « faciliter l’accès des imposteurs à ce système ».

D’autre part, parmi les « hommes blancs » allons-y carrément… les femmes et les enfants seraient plus difficiles à identifier. Il semblerait, donc, que les bases de données manquent de quoi établir certaines comparaisons…

Le rapport ne manque pas de remettre en cause l’utilisation de ces systèmes par les forces de l’ordre, et ce à juste titre : une technologie qui n’aide pas à identifier correctement les bons suspects risque en effet de mener à des erreurs judiciaires.

Ces « imprécisions » sont d’autant plus inquiétantes qu’elles connaissent un franc succès auprès des équipes de surveillance gouvernementales et des polices locales, rapporte le Washington Post : le FBI aurait ainsi lancé plus de 390 000 recherches de reconnaissance faciale dans les dossiers de permis de conduire de l’État, et d’autres bases de données fédérales locales depuis 2011.

Certains membres du Congrès ont exprimé leur colère face au manque de régulation des technologies de ce type. Il apparait comme crucial en effet d’examiner : non seulement l’efficacité de ces outils, mais également leur légitimité !

Certains démocrates ont appelé à voter pour la création d’un organe semblable à la CNIL aux États-Unis début novembre. L’objectif étant de mieux réguler les abus dus aux technologies numériques, et protéger les données des utilisateurs.

Suite à la publication des résultats de cette étude jeudi dernier, plusieurs législateurs ont également appelé « l’administration de Donald Trump à réévaluer ses plans pour étendre la reconnaissance faciale à l’intérieur du pays et le long de ses frontières », transmettait le quotidien. Aussi, Bennie G. Thompson, Président de la Commission de la sécurité intérieure, et membre du parti démocrate a déclaré : « Les systèmes de reconnaissance faciale ont montré qu’il étaient d’un point de vue racial encore plus biaisés qu’il n’y paraissait [et par conséquent] encore moins fiables que nous le pensions ».

Petit détail nous concernant, si l’Assemblée nationale a supprimé le mot « race » de la Constitution française depuis 2018 (de la Constitution de 1958, pas du Préambule de 1946), le mot reste largement employé ailleurs, notamment aux États-Unis. Bennie G. Thompson étant lui-même afro-américain, et, compte tenu des propos qu’il tient, peut difficilement être targué de racisme dans ce cas précis. Toutefois, en faisant cette modification, la France tient un discours qui corrobore avec la science, qui admet l’existence d’une seule et même race, celle de l’espèce humaine.

Si le débat peut sembler inutile pour certains, il semblerait toutefois qu’en matière de reconnaissance faciale, celui-ci nécessite d’être réouvert. Car chacun doit être traité de la même façon devant la loi, or les failles de la technologie actuelle viendraient à enrayer le bon fonctionnement des enquêtes, se répercutant ainsi sur l’appareil judiciaire.

Les inégalités « raciales » sont suffisamment présentes aujourd’hui, notamment aux États-Unis, pour ne pas en plus en rajouter. D’autre part, le problème doit être envisagé d’un point de vue universel. La régulation et la législation de la reconnaissance faciale va définitivement faire appel à des notions éthiques qu’il devient urgent de mettre en place.

Il finit par devenir impensable, et inadmissible, que chacun puisse désormais expérimenter ou utiliser cette technologie sans que les États interviennent, quand ce ne sont pas eux qui imposent la reconnaissance faciale dans certains cas. Et il n’y a pas que les États-Unis, la Chine est plus que réputée pour l’utiliser, la France s’en est emparée depuis peu avec l’application Alicem, la Grande-Bretagne se débat avec son utilisation au travers de la vidéosurveillance… Il y a définitivement de quoi faire, avant que certains dégâts ne soient trop largement causés.

Jay Stanley, analyste politique, et membre de l’ACLU (American Civil Liberties Union), organisme ayant poursuivi plus tôt cette année les agences fédérales pour l’utilisation qu’elles faisaient de certaines technologies de surveillance, alerte sur les éventuels débordements que de telles défaillances pourraient causer : « de longs interrogatoires [inutiles] », des « rapports tendus avec la police » ou de « fausses arrestations ».

Une législation nécessaire tandis que les logiciels de reconnaissance faciale sont offerts et utilisés par des entreprises privées

Plusieurs logiciels d’entreprises ont été examinés par le NIST, tests au cours desquels les défaillances citées plus haut ont été détectées. Les algorithmes étudiés provenaient d’entreprises comme Idemia, Intel, Microsoft, Panasonic, SenseTime, et Vigilant Solution, tous ayant bien voulu soumettre leurs logiciels aux tests.

Grand absent de la liste toutefois, Amazon, qui pourtant, non seulement développe son propre logiciel avec Rekognition, mais qui en plus, dispose d’un lien privilégié avec les forces de police locale. L’entreprise a prétexté n’avoir pas soumis son logiciel à l’étude car, étant « basé sur le cloud, celui-ci ne pouvait être facilement examiné par le test du NIST », a rapporté le Washington Post. Le NIST a tout de même précisé que d’autre logiciels, comme celui de Microsoft, était fondé sur le même principe et que cela n’a pas empêché les tests, ajoutant qu’Amazon était toujours invité à faire examiner son produit.

En outre, rappelons que la société a investi dans le rachat de Ring, spécialisée dans les sonnettes vidéo pour particuliers. Une application a été créée à partir de ces sonnettes, The Neighbors, permettant aux particuliers de partager directement leurs enregistrements à la police. Ce, sans l’accord des gens filmés sur les vidéos à l’entrée des maisons ou dans la rue d’en face. D’autre part il avait déjà été question d’inclure dans ces sonnettes des logiciels de reconnaissance faciale, susceptibles d’être en mesure de repérer des comportements suspicieux. Finalement obligée de se rétracter devant le tollé que cela avait provoqué, Amazon ne semble pourtant pas avoir abandonné l’idée de proposer des logiciels de reconnaissance faciale et de les vendre à la police, a déclaré le Washington Post.

Si le journal rappelle que certains États, comme la Californie, ou certaines villes du Massachusetts, comme Somerville ou Brookline ont banni l’utilisation de la reconnaissance faciale par les responsables et agents publics. Ceux qui souhaitent la maintenir, et ils seront nombreux, se doivent désormais de la légiférer.