Intelligence Artificielle Technologie Tribunes

La reconnaissance faciale : un risque pour les libertés individuelles ?

Par Elise Dufour, Of Counsel au sein du cabinet Bignon Lebray

Fait assez inhabituel pour être souligné, le président et directeur juridique de Microsoft, Bradford L. Smith a dans un article publié le vendredi 13 juillet 2018 sur le blog de Microsoft appelé le gouvernement à réguler la technologie de reconnaissance faciale.
Pour le président de Microsoft, cette technologie  » soulève des questions qui touchent au cœur des protections fondamentales des droits de l’homme comme la vie privée et la liberté d’expression.  »
La reconnaissance faciale peut en effet être considérée comme une simple commodité technologique, une nouvelle façon de déverrouiller un smartphone, mais si elle est utilisée à des fins de sécurité et de sûreté, elle peut conduire à une société de surveillance.
Loin d’être une fiction, la surveillance des masses par caméra publique s’est déjà invitée dans le quotidien des Chinois. À Shanghaï et Shenzen, elle permet ainsi d’identifier les piétons trop pressés qui traversent au feu rouge. D’ici 2020, près de 600 millions de caméras devraient être installées dans le pays.

Aux Etats-Unis, l’utilisation du système de reconnaissance faciale commercialisé par Amazon depuis 2016 sous le nom de Rekognition fait depuis plusieurs mois polémique.
L’Union américaine pour les libertés civiles (ACLU) de Californie a en effet démontré que les polices de l’Oregon et d’Orlando utilisaient cet outil afin de reconnaître les visages de criminels parmi les vidéos de caméras de surveillance dispersées dans l’espace public.

Afin de démontrer les risques liés à cette technologie, l’ACLU a utilisé Rekognition aux fins de vérifier si l’un des 533 membres du Congrès américain était présent dans cette liste de criminels. Résultat : 28 membres du Congrès ont été identifiés comme étant présents dans cette liste, démontrant ainsi les biais et risques pour les libertés individuelles liés à l’utilisation cette technologie.
Depuis lors, Amazon a annoncé avoir cessé de commercialiser son produit Rekognition auprès des forces de l’ordre.

La question de l’utilisation de la reconnaissance faciale à des fins sécuritaires ne fait pas débat seulement outre-Atlantique.
Plusieurs pays de l’Union européenne testent actuellement ces dispositifs. C’est le cas de l’Allemagne qui, le 24 août 2017, a installé des caméras biométriques dans la gare berlinoise de Südkreuz. Une centaine de voyageurs volontaires ont ainsi enregistré leur visage dans une base de données biométrique afin de tester le dispositif.
En Angleterre, la technologie est également en phase de test, malgré le fait que cette technologie ait conduit à identifier par erreur des milliers de personnes comme potentiels délinquants.
La France fait pour l’heure preuve de prudence.

Consciente des dangers pour les libertés individuelles, la CNIL rappelle à ce titre que :

– « Cette technologie n’en est désormais plus à ses balbutiements. Les enjeux de protection des données et les risques d’atteintes aux libertés individuelles que de tels dispositifs sont susceptibles d’induire sont considérables, dont notamment la liberté d’aller et venir anonymement. »

Deux propositions de loi ont certes été portées au Sénat et à l’Assemblée nationale afin de voir cette technologie exploitée par les forces de l’ordre, tout au moins dans les procédures relatives à la lutte contre le terrorisme.
Ces projets n’ont cependant pour l’heure pas abouti.

En effet, en 2016, le ministre de la Justice avait pointé du doigt « les risques d’atteinte aux libertés publiques ».
Quant au projet de loi du 6 juillet 2016 il a été renvoyé à la commission des lois constitutionnelles, de la législation et de l’administration générale de la République.
Si une loi devait être adoptée, elle ne pourrait l’être qu’après avis motivé et publié de la Commission nationale de l’informatique et des libertés, qui en tant que gardienne des libertés ne manquera pas d’évaluer si une telle restriction constitue une mesure nécessaire et proportionnée dans une société démocratique en tenant compte des droits fondamentaux et des intérêts légitimes de la personne pour protéger la sécurité publique.
Le niveau d’erreur acceptable avec un outil devra en outre être particulièrement faible, étant rappelé qu’avec une fiabilité à 80%, 21% des membres du Congrès américain ont été identifiés comme figurant dans la liste de criminels.

Send this to a friend