Amazon abandonne un système de recrutement jugé discriminant

Récemment, les spécialistes en apprentissage automatique chez Amazon ont fait une découverte étonnante. On pourrait d’ailleurs la qualifier de problème majeur : leur nouvel outil de recrutement n’aimait pas les femmes. Cela faisait longtemps que la société de Jeff Bezos voulait automatiser le recrutement de ses équipes. C’est par l’automatisation qu’Amazon est ce géant actuel, alors pourquoi ne pas l’appliquer aussi au recrutement ?

À ce propos, nous vous parlions de l’arrivée des chatbots dans le monde du recrutement. On vous explique comment il peut être utile aux entreprises. Le numérique a instauré une culture de l’instantané, du « tout, tout de suite », le chatbot peut répondre à cette problématique. Mais ce fût un échec cette fois-ci pour Amazon. L’intelligence artificielle dédiée au recrutement préférait sélectionner des hommes et est devenue discriminante.

Comment est-ce possible ? On observe une très nette « domination » numéraire des hommes dans l’industrie des technologies. Il semblerait que ça soit pour cette raison que l’IA dédiée au recrutement préférait choisir les CV d’hommes plutôt que ceux de femmes. L’outil jugeait les hommes plus aptes aux postes à pourvoir.

Le média Venturebeat nous explique qu’Amazon s’est rendu compte du problème. La société a souhaité modifier le programme de recrutement pour le rendre neutre et continuer à l’utiliser. À partir du moment ou l’IA est capable de trier des CV plutôt que d’autres sur un critère en particulier, elle est capable de recommencer. C’est ce qu’il s’est passé. Amazon n’a pas voulu commenter l’outil de recrutement en question. Malgré tout, la société affirme son engagement en faveur de la diversité et de l’égalité au travail.

En fait, le sexisme n’était pas le seul problème. Certains candidats se retrouvaient avec des postes qui ne correspondaient absolument pas à leurs qualifications. La technologie développée était plus ou moins aléatoire. Certains résultats relevaient presque du hasard. Pour ces raisons, Amazon a mis fin au projet.

D’autres sociétés travaillent actuellement sur de nouveaux outils de ce type. Avec un objectif clair cette fois-ci : donner une nouvelle chance au filtrage automatisé, en mettant l’accent sur la diversité au sein de l’entreprise.