La pomme ne tombe jamais très loin du pommier. On a beau vouloir construire une intelligence artificielle autonome et vierge de tout défauts, le fait est que dans le machine learning il y a le mot 'learning'. L'IA apprend sur des bases et des écrits humains qui, eux, sont loin d'être vierges de toute influence.
En effet, une étude montre que grâce à un TAI (Test d'Association Implicite) des chercheurs ont remarqué que l'IA faisait quelques 'écarts' sémantiques en associant les noms féminins au champs lexicale de la famille plus qu'à celui de la carrière ou que les noms 'noirs' était vus comme plus déplaisant que les noms dit 'blancs'.
Les préjugés ont la vie dure, "la langue est un pont à nos idées et beaucoup d'algorithmes sont construits sur la base de notre langage dans le monde réel." C'est la conclusion qu'en tire Megan Garcia la directrice du magazine New America en Californie. Là où Aylin Caliskan chercheuse à Princeton a mené cette étude. Un résultat qui n'étonne pas puisque l'on sait que ces intelligences artificielles sont des éponges hyper-puissantes. C'est juste que l'eau qu'elle absorbe est saumâtre.
À tel point que l'on sait que ces algorithmes de langage associe le mot homme à professeur et le mot femme à assistante professeur.
Ce qui est surtout à noter c'est que le professeur Caliskan a utilisé le TAI, un test qui est habituellement utilisé sur les humains en psychologie. Il consiste à faire correspondre des images à des mots et vice versa. Là où pour les hommes on calculera le temps de réponse entre les deux réponses, pour l'intelligence artificielle on prendra en compte la distance numérique, c'est à dire si l'IA est allée chercher loin dans sa base de données. Ce test a été effectué sur GLoVe, une IA de langage basée à l'université de Stanford.
C'est là que l'on voit tout le bienfait de l'open source. Google Traduction permet par exemple de le modifier pour améliorer la traduction, mais surtout cette étude nous montre que le progrès n'est pas toujours là où on le pense et que changer notre manière d'avoir vu le monde pendant tant de siècles serait le plus grand des progrès. Et ainsi peut-être que nos IA n'associeront plus le il à docteur et le elle à infirmière .
Cette IA c'est un peu notre enfant qu'on s'échine à bien éduquer et qui dit des gros mots "parce qu'il les a entendu à l'école."
