Google licencie la chercheuse Timnit Gebru, spécialiste dans l’IA éthique

Coup de tonnerre dans la Silicon Valley ? Timnit Gebru, chercheuse noire dans le domaine de l’intelligence artificielle chez Google, vient d’être licenciée après avoir travaillé sur une étude dans laquelle elle démontre les faiblesses d’une technologie basée sur l’IA qui alimente notamment le moteur de recherche de la firme de Mountain View.

Que s’est-il passé ?

Née et élevée en Éthiopie, Timnit Gebru est âgée de 37 ans et, jusqu’à peu, était la co-dirigeante de l’équipe dédiée à une intelligence artificielle éthique chez Google. Elle s’est notamment faite remarquer en 2018 lorsque, alors chercheuse à l’université de Stanford, elle a participé à l’élaboration d’un papier mettant en lumière les biais racistes et sexistes de l’intelligence artificielle. Elle a rejoint la firme de Mountain View la même année avec pour but de développer une IA éthique. La chercheuse pointe souvent du doigt le manque de diversité au sein de la Silicon Valley et exprime ses craintes quant à l’IA et ses déviances, notamment dans le domaine de la reconnaissance faciale.

Récemment, Timnit Gebru et quatre autres employés de Google ont été sommés par leurs supérieurs de ne pas présenter une étude lors d’une conférence, ou de retirer leur nom de cette dernière. Dans un e-mail adressé à plusieurs employés de l’entreprise, Gebru affirme que ses dirigeants ont souhaité étouffer ses recherches, en plus d’ignorer ses commentaires sur des questions éthiques comme le manque de femme embauchées dans les rangs de Google. « Votre vie commence à se détériorer lorsque vous commencez à défendre les personnes sous-représentées. Vous commencez à contrarier les autres dirigeants. Il n’y a pas moyen que d’autres documents ou d’autres conversations permettent d’obtenir quoi que ce soit », écrit-elle. Elle y explique également qu’elle finira par démissionner si Google ne daigne pas lui donner d’explications par rapport aux faits cités plus haut.

I was fired by @JeffDean for my email to Brain women and Allies. My corp account has been cutoff. So I’ve been immediately fired 🙂

— Timnit Gebru (@timnitGebru) December 3, 2020

Peu de temps après l’envoi, Timnit Gebru a écrit sur Twitter que son adresse mail d’entreprise a été coupée et qu’elle a été licenciée par Jeff Dean, chef de la division IA chez Google. Ce dernier nie toutefois les dires de la chercheuse et affirme qu’elle a pris la décision de démissionner d’elle-même, et que son papier n’est, en outre, pas valide. « C’était déshumanisant. Ils peuvent avoir des raisons de mettre fin à nos recherches. Mais ce qui est le plus contrariant, c’est qu’ils refusent de discuter du pourquoi », déclare le Dr Gebru.

Google de plus en plus en conflit avec ses employés

Timnit Gebru étant une chercheuse très respectée et engagée dans le domaine de l’IA, son licenciement fait tache pour la firme de Mountain View, qui prône une culture dans laquelle tout le monde est égal et doit pouvoir s’exprimer librement. Depuis l’année dernière, les employés de Google vont de plus en plus à l’encontre de leur entreprise. Certains d’entre eux ont par exemple demandé à ce qu’elle soit exclue de la gay pride car ses valeurs ne correspondent pas au rassemblement. Deux salariés impliqués dans le travail syndical ont également été licenciés par Google après avoir été espionnés par la firme, ce qui constitue une violation du droit de travail, a rappelé le National Labor Relations Board.

En outre, Google a instauré de nouveaux procédés lui permettant d’empêcher ses salariés de s’organiser et de se mobiliser entre eux, tout en espionnant leurs activités en ligne. La société a également embauché des modérateurs d’entreprises dont la mission est de réduire les conflits, selon elle. Le licenciement de Timnit Gebru ne risque pas d’améliorer les relations des employés de la firme avec leurs dirigeants.

Les déviances de l’IA

Les problèmes relevés par la chercheuse sont connus dans le monde de la tech. D’ailleurs, plusieurs études ont démontré les biais racistes des intelligences artificielles qui sont majoritairement conçues par des hommes blancs et entraînées sur des sujets blancs également. Bien que Google ait affirmé son souhait d’éliminer de telles déviances dans ses systèmes, le problème réside dans le fait que les décisions finales sont souvent prises par des hommes, selon Timnit Gebru : « Non seulement ils n’accordent pas la priorité à l’embauche de personnes issues des communautés minoritaires, mais ils étouffent leurs voix », a-t-elle déclaré.

Le PDG d’Alphabet, Sundar Pichai, mise l’avenir de son entreprise sur l’intelligence artificielle, et a appelé plus tôt cette année à une meilleure régulation de cette technologie. Cependant, le renvoi de Timnit Gebru ne semble pas vraiment en accord avec cette ligne directrice.