Selon AP News, le ministère de la Justice américain tire la sonnette d'alarme au sujet d'une pratique de plus en plus discriminatoire : le recrutement par l'intelligence artificielle. De tels outils pourraient violer la loi anti-discrimination instaurée dans le pays.
Le gouvernement mène une campagne anti-discrimination
Aux cotés de la Commission pour l'égalité des chances en matière d'emploi (EEOC), le ministère de la Justice des États-Unis vient d'avertir la plupart des employeurs du pays que les systèmes d'embauche et de productivité alimentés par l'intelligence artificielle peuvent violer l'Americans with Disabilities Act (la loi anti-discrimination). Ces technologies, plébiscitées par les entreprises, pourraient être discriminatoires à l'égard des personnes handicapées en écartant injustement des candidats à un emploi.
Selon la Commission, l'intelligence artificielle biaiserait le recrutement, en demandant des informations sensibles, voire illégales. Ces mêmes outils, utilisés en entreprise auprès des salariés, limiteraient les augmentations de salaire et les promotions à l'égard des personnes handicapées. En conséquence, les organismes gouvernementaux ont publié des documents décrivant les exigences de l'Americans with Disabilities Act, et proposent une aide pour améliorer l'équité des systèmes d'intelligence artificielle sur le lieu de travail.
Les entreprises américaines joueront-elles le jeu ?
Le ministère de la Justice demande notamment aux entreprises américaines de s'assurer que leurs outils d'intelligence artificielle ne creusent pas les inégalités, qu'ils permettent des « aménagements raisonnables ». Le ministère propose également aux employeurs de réfléchir à la manière dont leurs outils automatisés peuvent nuire au quotidien des personnes souffrant de divers handicaps et de trouver des solutions pour y remédier.
Cependant, il n'y a aucune garantie que les entreprises suivront ces conseils afin d'appliquer une politique abri-discrimination. Cette note intervient néanmoins dans un contexte de pression croissante sur les entreprises pour qu'elles tempèrent leurs utilisations de l'intelligence artificielle, au moins pour le recrutement et le suivi des travailleurs.
La Californie a récemment promulgué une loi sur les quotas de productivité interdisant les algorithmes qui violent les réglementations en matière de santé, de travail et de sécurité, ou qui conduisent à licencier les personnes qui ne parviennent pas à atteindre des quotas. La ville de New York, quant à elle, exige désormais que les systèmes d'embauche par IA passent des audits annuels à la recherche d'une quelconque discrimination.
