Selon un avis (pdf) publié le 22 juin par la Défenseure des droits, la non-discrimination doit être au cœur de la réglementation de l'intelligence artificielle. Des recommandations co-rédigées avec Equinet (European Network of Equality Bodies) et le réseau européen d'organismes de promotion de l'égalité.

La Défenseure des droits publie ses recommandations

La Défenseure des droits a publié une série de recommandations adressée directement aux institutions européennes. Avec cet avis, l'autorité administrative indépendante chargée de veiller au respect des droits des citoyens par les organismes publics souhaite rappeler l'importance de placer le principe de non-discrimination au cœur du futur règlement européen sur l'intelligence artificielle : l'Artificial Intelligence Act. La Défenseure des droits rappelle qu'il ne faut pas oublier que « les algorithmes sont développés par des humains et donc à partir de données reflétant des pratiques humaines ».

L'autorité estime que l'un des biais les plus fréquents « le manque de représentativité des données mobilisées ». La Défenseure des droits tire également la sonnette d'alarme au sujet des processus de recrutement alimentés par l'intelligence artificielle. Selon elle, certains algorithmes ont hérité de « la traduction mathématique de pratiques discriminatoires historiques ». Concrètement, les technologies de recrutement peuvent tendre à écarter systématiquement les candidatures des femmes. Des dérives similaires ont également été observées dans d’autres secteurs.

Éviter les dérives en instaurant le principe de non-discrimination

C'est par exemple le cas « dans le cadre de la lutte contre la fraude aux prestations sociales ». La Défenseure des droits rappelle que les algorithmes utilisés à cet effet ont déjà conduit à des dérives. Certaines intelligences artificielles concentraient les contrôles sur certaines personnes en raison de leur lieu de résidence et de leur situation de famille. Voilà, d'après l'autorité, pourquoi le principe de non-discrimination est essentiel pour bâtir une réglementation juste sur l'intelligence artificielle au sein de l'Union européenne. La Défenseure des droits propose plusieurs recommandations.

Dans son avis, l'autorité préconise notamment l'introduction de « mécanismes de plainte et de recours accessibles et efficaces » pour les personnes concernées en cas de violation des principes d'égalité et de non-discrimination lorsqu'une telle violation résulte de l'utilisation d'un algorithme. La Défenseure des droits souhaite également « obliger les autorités de surveillance nationales à consulter les organismes de promotion de l'égalité ». Pour s'assurer que la non-discrimination sera bien au centre du projet, l'autorité pense que le monde universitaire et les organisations non gouvernementales devraient être associés aux décisions.