Le MIT tente de réduire les inégalités sociales causées par le développement massif des algorithmes

Désormais, nous savons que les failles des algorithmes sont dangereuses pour nos sociétés. D’autant plus depuis que des intelligences artificielles sont capables de déterminer le risque criminel d’un individu. Depuis quelques temps, le MIT tente de réduire les inégalités sociales créées par ces nouvelles technologies, notamment à cause de la reconnaisse faciale et vocale. Les chercheurs tentent de trouver des solutions pour lutter contre les préjugés racistes dans les systèmes de détection des visages grâce à de meilleures données de formation. L’intervention humaine est indispensable pour améliorer les systèmes en place : l’IA n’est pas encore capable de corriger ce type d’erreurs.

Au fil des années, plusieurs constations sont faites et laissent entendre que les algorithmes de reconnaissance faciale et vocale accroissent les inégalités sociales. Comment cela est-il possible ? Des modèles de reconnaissance faciale développés en Chine, au Japon et en Corée du Sud avaient des difficultés à distinguer les Caucasiens des Asiatiques de l’Est. Plus récemment, les enceintes connectées développées par Google et Amazon se sont avérées défaillantes lorsque des personnes parlaient avec un accent. Les intelligences artificielles en question avaient 30% moins de chance de comprendre les accents non américains. C’est pour résoudre ces problèmes que des chercheurs du MIT travaillent actuellement.

Alexander Amini, co-auteur principal d’un article à propos des inégalités sociales dues au développement des algorithmes a déclaré cela : « la classification faciale, en particulier, est une technologie qui est souvent perçue comme parfaite, même s’il est devenu évident que les ensembles de données utilisés ne sont pas suffisamment vérifiés. Il est d’autant plus important de rectifier ces problèmes que nous commençons à voir ce genre d’algorithmes utilisés dans les domaines de la sécurité, et de la justice ». Les améliorations de ces nouvelles technologies vont devenir cruciales. Il ne s’agit plus d’un simple passe-temps, mais bien d’outils utilisés dans des situations réelles et souvent très sérieuses. Pourtant, il faudra être patient pour que la reconnaissance faciale et vocale puissent obtenir de meilleurs résultats.