Samy Bengio, dirigeant et cofondateur de Google Brain, division de Google dédiée à l’intelligence artificielle, vient d’annoncer sa démission. Cette décision fait suite aux licenciements controversés de Timnit Gebru et Margaret Mitchell, qui s’occupaient de la branche éthique de l’IA chez la firme de Mountain View.

La polémique enfle

C’est l’hécatombe chez Google. Samy Bengio, qui évolue au sein du géant technologique depuis 2007, a annoncé son départ dans un e-mail adressé à ses collègues. « C'est l'un des e-mails les plus difficiles que je puisse imaginer vous envoyer à tous : j'ai décidé de quitter Google afin de saisir d'autres opportunités passionnantes », a-t-il déclaré. Si la démission de Samy Bengio interpelle tant, c’est parce qu’elle se produit peu de temps après les licenciements douteux de Timnit Gebru et Margaret Mitchell.

La première, chercheuse éminente dans le domaine de l’IA et militante pour plus d’inclusivité dans le monde de la tech en général, a en effet été mise à la porte en décembre 2020 par Google alors qu’elle travaillait sur une étude démontrant les biais et les dangers des modèles de traitement de langage naturel. Pour rappel, plusieurs scientifiques ont déjà tiré la sonnette d’alarme à leur sujet. À l’époque Samy Bengio s’était dit « abasourdi » par la situation.

Deux mois plus tard, sa co-dirigeante de l’IA éthique chez Google, Margaret Mitchell, a elle aussi été licenciée pour violation du code de conduite de l’entreprise. Avant sa mise à pied, elle n’avait pas gardé sa langue dans sa poche et avait ouvertement critiqué ses dirigeants concernant le sort réservé à Timnit Gebru. Depuis ces affaires, Google a réorganisé son département de recherche, donnant moins de responsabilités à Samy Bengio.

Un actionnaire s’en mêle

Ces licenciements, et plus particulièrement celui de Timnit Gebru, ont profondément marqué la communauté scientifique. Cette dernière se battait en effet pour une intelligence artificielle plus juste et dépourvue de biais racistes ou sexistes, suscitant l’incompréhension de la communauté suite à son départ de la firme de Mountain View. En conséquence, deux employés de Google ont décidé de quitter l’entreprise, tandis que de nombreux chercheurs ont refusé des financements et d’autres possibilités offertes par le géant du Web.

Les répercussions de ces affaires touchent même les actionnaires de l’entreprise. Comme le rapporte The Verge, Trillium Asset Management, qui détient 63 078 actions d’Alphabet, la maison-mère de Google, demande à la société de mieux protéger ses lanceurs d’alerte : « Les rapports suggèrent que de nombreux employés de Google qui ont démissionné ou ont été licenciés font état publiquement de représailles après avoir exprimé les implications des pratiques de l'entreprise en matière de droits de l'Homme, notamment le racisme et le sexisme systémiques sur le lieu de travail. Ces signaux d'alarme suggèrent la possibilité de problèmes de culture, d'éthique et/ou de droits de l'Homme en interne », déclare l’actionnaire.

Le syndicat de Google, formé en janvier 2021, est du même avis. « Nous voulons savoir que si un projet déraille, nos collègues qui sont au courant peuvent nous le dire. C'est pourquoi la sécurité des lanceurs d’alerte est si importante. Et c'est ce que nous essayons de construire avec le syndicat », explique Andrew Gainer-Dewar, ingénieur logiciel chez Google et membre de l’Alphabet Workers Union.

Si pour l’heure, la firme de Mountain View n’a pas réagi, il est évident qu’elle va être contrainte de prendre des mesures pour mieux protéger ses employés mais également être plus transparente quant à ses avancées dans le domaine de l’IA. Dans le cas contraire, les répercussions sur sa réputation pourraient devenir un peu trop encombrantes.