Le géant chinois Huawei et l’entreprise spécialisée dans la reconnaissance faciale Megvii ont travaillé ensemble pour tester et développer des systèmes d’alarmes ouïghoures, selon un « rapport d’interopérabilité » de Huawei trouvé par l’entité de recherche IPVM.

Ce rapport, entièrement écrit en chinois, indique que les technologies de Huawei mêlent cloud computing, big data, et vidéo-surveillance haute définition afin d’œuvrer à la sécurité et au contrôle de la population. Contenant des preuves de tests passés sur la détection de visages Ouïghours, elles pourraient aussi œuvrer aux intérêts des autorités qui mènent une répression accrue sur les Ouïghours. Une minorité de la région du Nord-Ouest de la Chine, le Xinjiang.

En effet, en 2018, comme le dévoile le document, les deux entreprises auraient collaboré sur un système de caméra utilisant l’intelligence artificielle, et capable de scanner des visages dans une foule. Ce système serait capable d’estimer l’âge, le sexe, et l’origine ethnique de chaque personne. Selon les résultats des tests, le potentiel de cette technologie pourrait être appliqué au contrôle et à la surveillance des Ouïghours. Avec une telle technologie, l’État chinois pourrait les identifier dans une foule, augmentant ainsi le contrôle numérique qui plane déjà sur ces populations.

Ces dernières années, de telles solutions de reconnaissance faciale et vidéosurveillance ont acquis un rôle croissant dans les services de police en Chine. Elles servent non seulement à contrôler le citoyen lambda, mais aussi des minorités que le pays souhaite garder à l’œil. Un filet de surveillance pend ainsi constamment au-dessus des villes, dans le pays dont la Grande muraille est devenue numérique. Les autorités, et particulièrement la police, dont le rôle s’est métamorphosé depuis l’arrivée au pouvoir de Xi Jinping, peuvent scanner les téléphones, suivre un visage, ou encore savoir quand une personne quitte son domicile. Un État totalitaire, en somme, en version numérique. Il est alors facile d’ajuster ces traques selon les projets politiques, comme le démontre le projet de Huawei, et bien d’autres avant.

Cette traque aux dissidents et aux différents via des technologies de pointe vise ainsi particulièrement les Ouïghours, un peuple turcophone et à majorité musulmane habitant la région du Xinjiang. Ces populations sont sans cesse épiées par la police, qui guette les signes de radicalisation religieuse ou d’opposition au gouvernement. Ces révélations relayées massivement grâce au Washington Post permettent d’apporter un nouvel éclairage sur la façon dont les entreprises privées -dont Huawei, le plus grand fabricant mondial d’équipements de télécommunications- contribuent au développement et à la prospérité de l’hyper-surveillance en Chine. Cette participation, dans le cas de Huawei, passe par la fourniture de serveurs, de caméras, d’infrastructures cloud, et d’autres outils sous-jacents de la puissance technologique de ces systèmes dopés à l’intelligence artificielle.

Huawei est loin d’être un cas isolé. Les technologies américaines, ou même françaises, servent à l’État chinois pour surveiller sa population. On peut ainsi également lire dans le rapport que “la puce Tesla P4 de Nvidia (…) peut effectivement accélérer les algorithmes de deep learning”. Il n’est plus secret que les technologies américaines servent à l’espionnage des Ouïghours au Xinjiang et ailleurs. Les ordinateurs du “Urumqi Cloud Computing Center”, le centre de calcul de la capitale du Xinjiang, sont parmi les plus rapides du monde et fonctionnent grâce à des puces graphiques fabriquées par Intel et Nvidia, des sociétés américaines.

Même si Huawei a été ajouté à la liste noire américaine en mai 2019, interdisant son accès aux technologies des entreprises des États-Unis, le projet a été conduit en 2018, alors que les deux pays compagnies contractaient sans limite. Megvii fait également partie des 28 entreprises chinoises frappées par les sanctions américaines l’année dernière pour implication dans “des violations des droits de l’homme et des abus dans la mise en œuvre de campagne de répression, de détention arbitraire de masse et de surveillance de haute technologie de la Chine” contre les Ouïghours et autres groupes minoritaires musulmans.

Le secteur privé du monde entier ayant la possibilité d’influer sur la politique intérieure du pays en menaçant de ne pas traiter avec les entreprises chinoises œuvrant à la surveillance de masse, reste à savoir si cette méthode sera efficace à long terme.

Aujourd’hui menacée de manquer d’accès aux technologies des leaders américains du marché, la Chine pourrait accélérer le rythme afin de les développer sur son propre territoire. Le Président sortant Trump ayant publié en novembre un décret interdisant les investissements américains dans les entreprises chinoises qui seraient détenues ou contrôlées par l’armée chinoise, Maya Wang, chercheuse chinoise à Human Rights Watch, ne cache pas son inquiétude. « J’ai peur que dans quelques années, les entreprises et le gouvernement chinois trouveront leur propre moyen de développer ces puces et ces capacités. Il n’y aura alors aucun moyen de tenter d’arrêter ces abus » déclare-t-elle. Forcée au repli, la Chine aurait pu être un partenaire, elle sera certainement un adversaire.

Combiné à la tendance de la hausse du recours à la surveillance assistée par l’IA pour surveiller la population et opprimer les minorités, manifestants et autres personnes considérées comme des menaces pour l’État Chinois, un acte aussi peu significatif que ce test datant de 2018 se présente comme un indice effrayant.

Huawei et Megvii ont annoncé trois systèmes de surveillance utilisant la technologie des deux sociétés au cours des deux dernières années. Cependant, Huawei a nié toute implication dans de quelconques violations des droits humains, à l’heure actuelle. Les deux sociétés ont bien reconnu que le document était réel, mais le porte-parole de Huawei, Glenn Schloss, a déclaré que le rapport “était simplement un test et n’a pas vu d’application dans le monde réel. Huawei ne fournit que des produits à usage général pour ce type de test. Nous ne fournissons pas d’algorithmes ou d’applications personnalisés.”

Cependant, par son existence théorique même, le système développé et testé par Huawei pour surveiller les Ouïghours démontre au moins deux choses. D’abord, le rôle primordial des entreprises privées dans le cadre humain, éthique et sécuritaire donné à leur technologie, spécifiquement lorsque la législation est faible sur ces points. Ensuite, l’approche de la Chine afin de garantir ordre et sécurité sur un territoire immense et historiquement divers.

Selon Jonathan Frankle, chercheur en deep learning au laboratoire d’informatique et d’intelligence artificielle du Massachusetts Institute of Technology (MIT), “Si vous êtes prêt à modéliser votre gouvernement et à diriger votre pays de cette manière, pourquoi n’utiliseriez-vous pas la meilleure technologie disponible pour exercer un contrôle sur vos citoyens ?”. La répression contre ces minorités du Xinjiang, bien documentée depuis 2018, est défendue par les autorités chinoises sous fond de lutte contre le terrorisme et la radicalisation. Discrimination, surveillance vidéo, espionnage des activités en ligne et de toute trace d’opposition à la ligne du Parti sont monnaie courante depuis 2015, malgré les condamnations publiques de la communauté internationale. Les chercheurs estiment que plus d’un million de Ouïghours sont, ou ont été détenus dans des camps de rééducation, torturés et maintenus loin de leurs familles.

Malgré l’apparente et actuelle utilisation du système “alarme ouïghour » développé par Megvii et Huawei, ces tests représente une étape dangereuse vers l’automatisation de la discrimination ethnique à une échelle qui pourrait s‘avérer dévastatrice. Il est évident que de tels systèmes, si mis en place en Chine, contribueront à la discrimination, au profilage ou à la punition, due aux erreurs de performance de l’IA. De plus, les fuites de données biométriques, récupérées en partie par les systèmes de reconnaissance faciale sont très courantes dans le pays, et menacent les informations personnelles de ses citoyens. IBM mettaient parfaitement en avant tous les dangers du profilage raciale, dans la lettre au Congrès annonçant l’abandon de ses recherches dans le domaine de la reconnaissance faciale : « IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie [de reconnaissance faciale], y compris la technologie de reconnaissance faciale offerte par d’autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et de transparence ».

Méfiant, ou simplement résigné, Jonathan Frankle ne prévoit cependant pas le même abandon pour la Chine, pays de l’hyper-surveillance. “Les gens ne se donnent pas la peine de construire des systèmes coûteux comme celui-ci pour rien. Ce ne sont pas des personnes qui brûlent de l’argent pour s’amuser. S’ils l’ont fait, ils l’ont fait pour une raison très précise à l’esprit. Et cette raison est très claire.”

Il s’agira, pour les journalistes, chercheurs, et défenseurs des droits humains, de rester attentifs aux prochains déroulements technologiques de l’Empire du Milieu, prêts à sonner l’alarme au monde entier. Il s’agira aussi de défendre les droits fondamentaux, et le droit à une technologie centrée sur l’humain – mais pas pour le contrôler.