Dans un article de blog, publié le 7 février dernier, Michael Punke, Vice président de la politique publique d’Amazon Web Services propose des lignes directrices pour l’encadrement de la reconnaissance faciale. Alors que la société développe un système dédié à la reconnaissance faciale nommé Rekognition, elle comprend également les enjeux et les limites de cette technologie et demande aujourd’hui au gouvernement d’agir.

Amazon : un acteur clé et controversé de la reconnaissance faciale

Amazon n’est pas la première entreprise américaine a souhaité l’intervention du gouvernement sur le sujet de la reconnaissance faciale. En juillet dernier, Brad Smith, président et directeur juridique de Microsoft publiait un article de blog en demandant la régulation de cette technologie, en y décrivant les côtés sombres. Quelques mois plus tard, Microsoft s’est associée avec le groupe AI Now pour appuyer ses craintes et tenter d’obtenir une réaction de la part du gouvernement.

Avec Rekognition, Amazon propose une solution de reconnaissance faciale qui sert à localiser des objets dans une photo certes, mais également aux policiers américains pour retrouver des criminels grâce aux vidéos de caméras de surveillance placées dans les lieux publics. Une pratique qui a suscité de nombreuses critiques et qui a prouvé ses limites. En effet, 28 politiciens ont été suspectés d’être des criminels. Malgré les biais soulignés, la société a confirmé son intention de continuer à commercialiser la solution.

Les 5 directives proposées par Amazon

Quoi qu’il en soit, l’entreprise fait aujourd’hui un petit pas et souligne que malgré les avantages de la reconnaissance faciale qui a par exemple permis de retrouver 3000 enfants disparus en 4 jours en Inde, elle doit être encadrée, afin notamment d’éviter la discrimination. Voici les 5 règles présentées :

1- “La reconnaissance faciale doit toujours être utilisée conformément à la loi, y compris les lois protégeant les droits civils.” La société précise « nos clients sont responsables du respect de la loi concernant leur utilisation de la technologie. »

2- “Quand la technologie est utilisée dans le cadre de l’application de la loi, l’examen humain est un élément nécessaire pour s’assurer que l’utilisation d’une prédiction pour prendre une décision ne viole pas les droits des personnes.” Amazon précise « elle ne doit pas être utilisée pour prendre des décisions finales entièrement automatisées. »

3- “Lorsque la technologie est utilisée par les forces de l’ordre pour l’identification, ou d’une manière qui pourrait menacer les libertés civiles, un seuil de confiance de 99% est recommandé.

4- “Les forces de l’ordre doivent faire preuve de transparence dans leur utilisation de la technologie de reconnaissance faciale.” L’entreprise suggère que les forces de l’ordre publient des rapports réguliers sur l’utilisation précise de la technologie.

5- “Il faut savoir quand la vidéo surveillance et la technologie de reconnaissance faciale sont utilisées ensemble dans des lieux publics ou commerciaux.”

Pour terminer, Amazon explique soutenir « la création d’une cadre législatif national, couvrant le visage de la vidéosurveillance et la promotion de la surveillance publique. Nous sommes d’avis que la technologie de reconnaissance faciale et la surveillance vidéo devraient être couvertes par le même cadre de notification. »

Il convient de noter que comme le précise l’entreprise « les nouvelles technologies ne devraient pas être interdites ou condamnées en raison de leur potentiel mal utilisé. Il devrait plutôt y avoir un dialogue ouvert, sincère et honnête entre toutes les parties concernées pour s’assurer que la technologie est appliquée de façon appropriée et qu’elle est continuellement améliorée. »

Des recommandations jugées “futiles”

En réponse à la prise de parole d’Amazon, Neema Singh Guluani, conseillère législative principale de l’ACLU n’approuve pas ce qui a été proposé. Elle explique « un seuil de 99%  “ne fait rien” pour empêcher les forces de l’ordre d’utiliser la reconnaissance faciale pour garder un œil sur les manifestants et les immigrants. » Elle ajoute « les recommandations d’Amazon sonnent cruellement creux, soulignent le refus de la société de traiter correctement les dangers de sa technologie entre les mains du gouvernement et renforcent le besoin urgent pour Amazon de se retirer complètement du marché de la surveillance. »