Selon l'ONU (l'Organisation des Nations unies), l'utilisation des technologies d'intelligence artificielle, notamment les systèmes de reconnaissance faciale dans les espaces publics, représente un risque très sérieux pour les droits de l'homme. Pour cette raison, l'ONU appelle à un moratoire sur l'utilisation de l'intelligence artificielle.

L'ONU s'inquiète de la place que prennent les technologies d'IA

Michelle Bachelet, haut-commissaire des Nations unies aux droits de l'Homme, a déclaré le 15 septembre que tous les pays, sans exception, devraient « expressément interdire les applications d'intelligence artificielle qui ne respectent pas le droit international des droits de l'Homme ». L'ONU s'inquiète des proportions que peuvent prendre les technologies de reconnaissance faciale dans certains pays. Selon Michelle Bachelet, « leur utilisation peut avoir des effets négatifs, voire catastrophiques, si elles sont utilisées sans tenir suffisamment compte de la manière dont elles affectent les droits des personnes ».

L'ONU appelle à un moratoire à propos des technologies de reconnaissance faciale. Selon l'organisation intergouvernementale, les applications qui devraient être interdites sont les systèmes gouvernementaux de « notation sociale ». Des applications qui permettent de classer la population selon leur comportement. Certains pays ont déjà été beaucoup trop loin en se servant de la reconnaissance faciale pour classer les gens en fonction de leur sexe ou de leur origine ethnique. C'est le cas de la Chine qui a déployé son système de notation sociale depuis déjà plusieurs années.

L'interdiction de la reconnaissance faciale peut-elle faire consensus ?

L'Union européenne est sur la même ligne que l'ONU. Deux régulateurs européens, le Contrôleur européen de protection des données (CEPD) et le Comité européen de la protection des données (EDPB), estiment que le déploiement de l'identification biométrique à distance dans les lieux publics signifie la fin de l'anonymat. Ils ont récemment demandé à la Commission européenne que la reconnaissance faciale soit interdite dans les lieux publics.

Comme l'explique Peggy Hicks, directrice du Thematic Engagement, une agence des Nations unies : « il ne s'agit pas d'interdire l'IA. Il s'agit de reconnaître que si l'IA doit être utilisée dans des domaines très critiques, comme celui des droits de l'Homme, cela doit être fait de la bonne manière. Et nous n'avons tout simplement pas encore mis en place un cadre qui garantisse que cela se produise ».

Dans le rapport de l'ONU, on lit également une certaine méfiance à l'égard des outils de reconnaissance faciale capables de déduire les états émotionnels et mentaux des personnes en analysant leurs expressions faciales ou leurs mouvements corporels. Le rapport indique que : « l'utilisation des systèmes de reconnaissance des émotions par les autorités publiques, par exemple pour cibler des individus en vue d'une interpellation ou d'une arrestation par la police ou pour évaluer la véracité de déclarations lors d'interrogatoires, risque de porter atteinte aux droits de l'Homme, tels que le droit à la vie privée, à la liberté et à un procès équitable ».