Amazon vient d’annoncer un moratoire d’un an sur l’utilisation de son outil de reconnaissance faciale par la police. Cette décision fait suite à une déclaration similaire de la part d’IBM, dans un contexte très particulier aux États-Unis.

Moratoire d’un an

L’annonce a été faite dans un court billet de blog de 102 mots. Le géant du Web y explique mettre en pause l’utilisation de sa technologie par les policiers pendant au moins un an, mis à part pour trois organisations qui combattent l’exploitation des enfants et le trafic d’humains.

Cette semaine également, le PDG d’IBM Arvind Krishna a déclaré dans une longue lettre que son entreprise se retirait du marché de la reconnaissance faciale. Il y expliquait :

« IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie, y compris de reconnaissance faciale, proposée par d’autres fournisseurs pour la surveillance de masse, le profilage racial, les violations des droits de l’Homme et des libertés fondamentales, ou tout autre objectif qui ne serait pas conforme à nos valeurs ».

Un outil très controversé

La reconnaissance est en effet une technologie très controversée, et l’outil développé par Amazon et baptisé Rekognition l’est tout autant. Créé en 2016, il a prouvé ses failles à plusieurs reprises, notamment lorsqu’il a identifié des politiques américains, et plus particulièrement noirs, comme des criminels. Malgré les critiques, Amazon était passé outre et avait continué de le vendre aux autorités.

En plus de l’invasion évidente de la vie privée, plusieurs études ont prouvé les biais racistes et sexistes des outils de reconnaissance faciale, qui identifient mieux les hommes que les femmes ainsi que les personnes blanches par rapport aux personnes noires ou asiatiques. Si des géants comme IBM et Microsoft se sont engagés à l’améliorer, en fournissant des outils et des données par exemple, Amazon s’est simplement contentée d’appeler à une meilleure régulation de la technologie… jusqu’à aujourd’hui.

Le Congrès américain travaille à sa régulation

Dans sa note, Amazon explique que cette décision a été pris le temps que le Congrès s’entende sur un contrôle plus efficace de l’outil :

« Nous avons préconisé que les gouvernements mettent en place des régulations plus strictes pour régir l’utilisation éthiques de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever le défi. Nous espérons que ce moratoire d’un an pourra donner au Congrès suffisamment de temps pour mettre en place des règles appropriées, et nous sommes prêts à apporter notre si on nous le demande ».

Un nouveau décret, restreignant l’usage de la reconnaissance faciale par la police, est en effet en discussion au sein du Congrès américain, alors que le pays se trouve dans une situation inédite depuis le meurtre de George Floyd et que des manifestants dénoncent les violences policières à l’encontre des Afro-Américains.

Nul doute que le débat s’annonce épineux… Pour rappel, l’utilisation de cette technologie fait également polémique en France.