Si en Europe, les initiatives en lien avec une IA éthique sont de plus en plus courantes, c’est bien moins le cas en Chine. Toutefois, le pays vient de publier un premier ensemble de directives sur l’éthique de l’IA qui met l’accent sur la protection des droits des utilisateurs, la prévention des risques et le contrôle des données.

Des mesures pour une IA plus éthique en Chine

Tandis que Pékin souhaite limiter l’influence des GAFAM et devenir le leader mondial de l’IA d’ici 2030, le pays a annoncé son premier ensemble de directives éthiques régissant l’IA, le 26 septembre dernier. Présentées par le ministère chinois des Sciences et de la Technologie (MCST), ces mesures devraient permettre d’assurer le contrôle de l’homme sur l’IA et les nouvelles technologies.

Le document intitulé New Generation Artificial Intelligence Ethics Specifications (en français : Spécifications éthiques de l’intelligence artificielle de nouvelle génération) a été rédigé par un comité de gouvernance de l’IA créé par le MCST en février 2019. Quatre mois plus tard, en juin 2019, le comité publiait un ensemble de principes directeurs pour la gouvernance de l’IA qui était bien plus court et plus large que les nouvelles directives proposées pour une IA éthique.

Malgré le souhait de la Chine de rendre l'IA plus éthique, ces nouvelles mesures interviennent seulement quelques jours après que Pékin ait publié sa nouvelle feuille de route régulant les algorithmes des grandes entreprises technologiques, renforçant la censure au sein du pays.

Aperçu d'une chinoise avec un masque.

La Chine renforce la censure sur le web avec un controle des algorithmes. Photographie : Kate Trio / Unsplash

Quelles sont les directives annoncées par la Chine ?

Six principes de base pour les systèmes d’IA ont été rédigés par les membres du comité : une IA contrôlable et digne de confiance, l’amélioration du bien-être humain, la promotion de l’équité de la justice, la protection de la vie privée et de la sécurité et l’amélioration de la culture éthique. Sont ainsi mentionnés la sécurité des données, leur confidentialité et le droit de se retirer de la prise de décision basée uniquement sur l’IA.

Les directives interdisent également aux produits et services reposant sur l'intelligence artificielle de se livrer à des activités illégales et de mettre gravement en danger la sécurité nationale, la sécurité publique ou la sécurité de la fabrication. Ils ne devraient pas non plus être en mesure de nuire à l'intérêt public, indique le document.

Rester compétitif tout en appliquant ces mesures pour une IA éthique

Avec l’arrivée prochaine de ces nouvelles directives, la prévention des risques devient un axe majeur de la politique d’IA de la Chine. Cela nécessitera de repérer et de traiter toute vulnérabilité technique dans les systèmes d’IA tout en s’assurant que les entités concernées soient tenues pour responsables en cas d'erreur.

Ces mesures pour une IA éthique sont présentées quelques semaines après que le comité de l'Assemblée populaire nationale ait voté la version définitive de la loi sur la protection des données personnelles et la publication de nouvelles directives antitrust par l'Administration d'État pour la régulation du marché en Chine.

La Chine devra composer avec ces nouvelles lois et directives tout en n’oubliant pas son objectif principal : dépasser les États-Unis et devenir le leader mondial de l’IA. Prochain rendez-vous en 2025, date à laquelle le pays souhaite proposer des percées majeures en IA afin d’être le leader du secteur d’ici la fin de la décennie.