Changement de cap chez IBM, le PDG de la société, Arvind Krishna, annonce dans une lettre arrêter tout développement ou recherche dans le domaine de la reconnaissance faciale. En 2018, on découvrait qu’IBM avait développé pour la police new-yorkaise, un algorithme capable de reconnaître un individu en fonctions de nombreux paramètres, comme sa couleur de peau, ses cheveux, ses vêtements, etc. Aujourd’hui, la société fait volte-face et ne souhaite plus être un acteur de la reconnaissance faciale.

« IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie [de reconnaissance faciale], y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et de transparence », écrit Arvind Krishna, dans une lettre adressée au Congrès américain. Le PDG assure que ce changement de vision a débuté avant les manifestations récentes aux USA, mais la mort de George Floyd n’a fait qu’accélérer la décision. Effectivement, début 2019, IBM s’engageait déjà à offrir des outils permettant d’éviter les biais au sein de ses logiciels. Le but était de fournir une base de données plus représentative de la population.

En mars dernier, IBM est allé jusqu’à s’allier avec Microsoft et le Vatican, pour tenter de réglementer l’utilisation de la reconnaissance faciale. Finalement, la société américaine abandonne purement et simplement ce marché très porteur. Le but est de montrer son engagement contre toutes les discriminations. C’est aussi un signal fort envoyé aux autorités américaines, comme précisé dans la lettre : « Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois. » En d’autres termes, IBM souhaite que les États-Unis changent de façon significative leurs méthodes d’utilisation et d’alimentations de la reconnaissance faciale.