Amazon veut de la reconnaissance faciale dans ses sonnettes vidéo

Les sonnettes vidéo Ring d’Amazon sont devenus de réels outils de surveillance pour les forces de police aux États-Unis. La filiale a établi des partenariats avec tout un ensemble de services de police, leur laissant ainsi accès aux flux vidéo enregistrés. Ce dispositif inquiète bon nombre de personnes, les défenseurs des droits humains, en premier lieu.

Un dispositif de surveillance

Plus de 400 services de police ont été sollicités par le groupe Amazon pour la mise en place d’un partenariat, grâce à l’application « Neighbors ». Mise en place par Ring – racheté par Amazon en 2018 – celle-ci fonctionne comme un réseau social dédié à la surveillance locale, autrement dit entre voisins. Elle ne peut officiellement fonctionner qu’avec l’accord des utilisateurs, acceptant de partager des informations, et notamment des vidéos enregistrées par les caméras Ring. Les services d’ordre peuvent ainsi accéder aux enregistrements pour tenter de résoudre plusieurs délits, type : vols de colis, cambriolages de maisons, effractions de voiture, violences sur la voie publique, etc.

Dans un article paru dans le Washington Post, le nombre des caméras recensé était de l’ordre de plusieurs millions. Les caméras Ring offrant la possibilité d’accéder à des enregistrements placés à l’entrée du domicile – afin d’identifier les individus se présentant à la porte – ou permettant de visionner le quotidien d’une rue adjacente ou des maisons en face. Inutile de dire que la police est très friande de ces flux vidéo. La carte ci-dessous représente les lieux où ce sytème de partenariat avec les services d’ordre sont mis en place :

Crédit : Google Map

Si le concept est vendu comme une opération positive et efficace : « Les utilisateurs et les forces de l’ordre ont obtenu des résultats étonnants en travaillant ensemble via l’application Neighbors, comme récupérer des armes volées dans la rue, aider les familles à assurer la sécurité de leurs enfants et même à retrouver des fournitures médicales pour un enfant diabétique », déclarait Jamie Siminoff, fondateur de la société Ring. Cette affirmation parue dans un communiqué fin août 2019, répondait aux inquiétudes révélées par le Washington Post.

L’article en question donnait la parole à des experts légaux et avocats privés, inquiets de voir des compagnies privées aussi puissantes qu’Amazon entretenir des liens aussi proches avec la police. Ce genre de rapprochement pourrait selon eux mettre en péril les libertés civiles.

Les utilisateurs de l’application appelés « Neighbors » sont anonymement répertoriés, toutefois les enregistrements publics ne floutent pas les visages ni les voix des passants, qui, bien sûr, n’ont pas donné l’autorisation pour partager leur données.

Pour Andrew Guthrie Ferguson, professeur de droit interrogé par le Washington Post, Ring a trouvé « un bon moyen de développer un vaste réseau de surveillance sans passer par un examen gouvernemental, généralement requis pour ce type d’opération ».

Un projet susceptible d’aller plus loin

Dans un article publié par The Intercept, certains documents auxquels le journal a eu accès, indiquent que le projet ne s’arrête pas là.

Ring projette d’étendre les fonctionnalités de l’application grâce un logiciel de reconnaissance faciale, afin d’établir des listes de surveillance, fondées sur l’intelligence artificielle. Information également rapportée dans Le Monde fin août 2019, où il était indiqué que Ring avait déposé un brevet visant « à introduire une technologie de reconnaissance faciale, afin qu’un appareil puisse, par exemple, donner l’alerte en cas de détection d’une personne recherchée ».

Yassi Shahmiri, porte-parole de Ring, interviewé par The Intercept sur le sujet, déclare « les fonctions décrites ne sont pas en développement ou utilisées et Ring n’utilise pas la technologie de reconnaissance faciale ». Il refusera néanmoins de faire toute autre commentaire sur les futures fonctionnalités prévues dans le futur, se contentant d’ajouter que toute prochaine fonctionnalité « inclura de solides politiques de protection et mettront nos clients dans une position de contrôle ».

The Intercept met toutefois en exergue l’opacité des critères sur lesquels les logiciels IA seraient programmés pour déterminer si un sujet est reconnu comme suspect ou non.

Soumis à plusieurs questions émises par les journaux, mais surtout à celles du Sénateur Edward Markey, dans le Massachusetts, le groupe Amazon nuance toutefois ses propos et concède « avoir envisagé l’utilisation de la reconnaissance faciale pour Ring ». Mais l’idée n’aurait pas donné suite.

Mohammad Tajsar, avocat spécialisé dans le respect des libertés civiles américaines a exprimé ses inquiétudes lui aussi quant à la mise en place de ces éventuelles listes de surveillance : « autoriser les services de police et les utilisateurs à accéder à ces listes de surveillance intelligentes sur Ring, encourage la création d’une ligne rouge numérique dans le voisinage, où la police et les propriétaires un peu trop méfiants travailleraient main dans la main pour interdire l’accès à des personnes jugées indésirables ». Dérives assurées donc. Ce type de débordement serait en outre complètement affranchi des lois, l’application réussissant parfaitement à contourner un type de surveillance pour lequel la police, elle, devrait se soumettre à l’accord des élus, et des citoyens.

The Intercept pointe du doigt un problème déjà efficient, tandis que les listes de surveillance automatisées ne sont pas encore établies : les propriétaires de caméra Ring, et adhérents à l’application Neighbors sont déjà suspectés d’attribuer à des individus un caractère suspicieux, d’une manière tout à fait subjective. Aussi, dans un article relayé par The Vice Motherboard en février 2019, on pouvait lire que sur une centaine d’alertes postées dans l’application the Neighbors « entre le 6 décembre et le 5 février, la majorité des gens répertoriés comme « suspects » étaient des personnes de couleur« .

Un manque de réglementation et des pratiques discutables pointés du doigt

Ce type d’opération est d’autant plus inquiétante que la société Amazon, transmet gratuitement des données sans que les personnes ne faisant pas partie de l’application Neighbors, ou ne possédant pas une caméra RIng, n’aient pu donner leur accord pour ce type de partage.

En outre, Amazon impose des conditions en matière de communication, et « réclame un droit de sur les communiqués de presse de la police liés à ce programme » rapporte Le Monde. Aussi le site Gizmodo déclarait avoir pu accéder à un échange d’e-mail entre la société Ring et la police du New Jersey, dans lequel l’entreprise souhaitait que « soient retirés d’un communiqué de la police les termes « surveillance » et « caméra de surveillance ».

Le groupe prie également les services de police de bien vouloir encourager la population à utiliser l’application Neighbors sur les réseaux sociaux, rapportait The Washington Post en août dernier.

Les représentants légaux ont été nombreux à faire part d’un problème plus général encore rapporte The Intercept. N’hésitant pas à rappeler que les listes noires établies par les fédéraux sont suffisamment opaques pour ne pas risquer en plus de permettre aux sociétés Tech privées de s’en mêler : « Les compagnies opèrent souvent dans un environnement totalement affranchi d’une réglementation, ne serait-ce que des plus basique, [agissant ainsi] sans aucune transparence, avec très peu de surveillance sur la manière dont leurs produits sont élaborés et utilisés, et les mécanismes de régulation pour corriger leurs erreurs », déclare Mohammad Tajsar.

Pour finir, Liz O’Sullivan, directrice technologique du Projet de supervision des surveillances technologiques, déclare à The Intercept que « toutes les tentatives IA testées pour détecter des comportements suspicieux à l’aide de la vidéosurveillance sont une supercherie ». Ajoutant que la création de listes de surveillances automatisées serait extrêmement dangereuse.

Pour Liz O’Sullivan, qui est aussi avocate, « il n’existe pas de consensus scientifique pour une définition claire d’un comportement suspicieux capable d’être établi sous forme biométrique. La question importante à poser c’est, Qui doit décider si un comportement est suspicieux ? Et la manière dont je vois l’industrie tenter d’y parvenir, relève simplement de l’approximation. » explique-t-elle à The Intercept. La police doit être impartiale pour que notre société fonctionne, ajoute-t-elle, et tous doivent être égaux devant la loi, pas devant les algorithmes.

L’application n’est pas disponible en France, et comme le rappelait le site 01.net, d’après ce que nous pouvons lire sur le site de la CNIL, ce type de pratique ne semble pas autorisée par la loi : « seules les autorités publiques (les mairies notamment) peuvent filmer la voie publique ». Il est probable donc pour que ce genre de partenariat ne puisse voir le jour au sein du pays.