Le 6 octobre, les eurodéputés membres du Parlement européen ont voté pour demander un moratoire sur le déploiement des systèmes de reconnaissance faciale par les forces de l'ordre. Cette résolution a été adoptée par 377 voix pour, 248 contre et 62 abstentions. Le Parlement souhaite que les États membres fassent preuve de transparence auprès de leurs communautés.
Les députés européens adoptent un moratoire
Mercredi 6 octobre, les eurodéputés ont rappelé que les systèmes de reconnaissance faciale exploités actuellement étaient encore très loin d'être parfaits. Les législateurs sont conscients des erreurs commises et des répercussions qu'elles peuvent avoir sur la société. Certaines populations peuvent être victimes d'erreurs d'identification. C'est par exemple le cas des groupes ethniques minoritaires , des personnes LGBTQ+, des personnes âgées ou encore des femmes... Au passage, les eurodéputés demandent aux États membres de faire savoir si leurs services répressifs utilisent des outils d'identification de type Clearview AI.
Les membres du Parlement européen estiment que le déploiement des systèmes de reconnaissance faciale doit : « répondre à des critères très stricts afin de s'assurer que les résultats obtenus ne soient ni biaisés, ni discriminatoires et qu'un contrôle et une surveillance démocratique ont bien été effectués ». La police ne pourra donc pas ou plus utiliser de systèmes de reconnaissance faciale, tant qu'un cadre n'aura pas été défini. Dans la résolution votée, il y une exception : l'identification des victimes de la criminalité.
Pour autant, les eurodéputés sont conscients de l'importance de l'IA pour accélérer l'innovation. Ils rappellent que : « le rôle de l'IA est d'apporter un changement positif à l’économie et à la société européennes, mais certains systèmes font encore peser de lourds risques sur les droits fondamentaux et les démocraties fondées sur l’état de droit. L’IA ne doit pas être considérée comme une fin en soi ». Selon les membres du Parlement européen, son utilisation doit se faire dans le respect des exigences de « minimisation des données, d'exactitude des données, de limitation du stockage, de sécurité des données et du principe de responsabilité (...) ».
La méfiance face aux systèmes d'IA est une tendance mondiale
Une décision qui va dans le sens de la déclaration de l'ONU publiée il y a à peine quelques jours. En effet, L'organisation des Nations Unies s'est positionnée en faveur d'un moratoire sur l'utilisation de l'intelligence artificielle et plus particulièrement sur celle de la reconnaissance faciale. Le 15 septembre, Michelle Bachelet, haut-commissaire des Nations unies aux droits de l'Homme, a déclaré vouloir interdire les applications d'IA qui ne respectent pas le droit international des droits de l'Homme.
L'Union européenne a toujours été sur la même ligne que l'ONU. Il y a quelques mois, deux régulateurs européens ont également fait part de leur inquiétude quant au déploiement de la reconnaissance faciale dans les lieux publics. Le Contrôleur européen de protection des données (CEPD) et le Comité européen de la protection des données (EDPB), ont signifié que le déploiement trop massif de cette technologie pourrait représenter la fin de l'anonymat au sein de l'Union européenne... Ils ont demandé à la Commission européenne d'interdire cette technologie dans les lieux publics.
