Dans un récent billet de blog, la CNIL a fait part de son approbation et de sa satisfaction quant aux nouvelles règles proposées par la Commission européenne pour réguler l'intelligence artificielle au sein de l'Union. Avec ses homologues européens et le Contrôleur européen de la protection des données, la CNIL a adopté un avis sur ce règlement pour faire part de quelques points de vigilance.
Quatre points de vigilance relevés par la Commission nationale
Après plusieurs jours d'échanges et de travaux avec ses homologues européens, la Commission nationale de l'informatique et des libertés a notamment relevé quatre points fondamentaux qu'elle souhaite partager avec la Commission européenne à propos du déploiement du futur règlement européen :
- La nécessité de tracer des lignes rouges aux futurs usages de l’IA
- Le défi de l’articulation avec le RGPD
- L’importance d’une gouvernance harmonisée
- Un accompagnement de l’innovation indispensable
Même si le règlement est encore susceptible d'évoluer au cours des prochaines semaines et des prochains mois, la CNIL et ses homologues ont tenu à se positionner, pour harmoniser la mise en place des normes et construire une stratégie cohérente et respectueuse des libertés et droits fondamentaux.
Voici par exemple l'avis de la CNIL à propos de la biométrie dans les espaces publics : "compte tenu des risques extrêmement élevés posés par l'identification biométrique à distance des personnes dans les espaces publics (reconnaissance des visages, de la démarche, des empreintes digitales, de la voix, etc.), les autorités de protection des données européennes proposent que soient retirées les exceptions à l’interdiction générale".
La CNIL veut un règlement européen cohérent avec sa politique
Toujours sur les technologies de reconnaissance faciale, la CNIL estime que : "l'utilisation de systèmes d'intelligence artificielle pour déduire les émotions d'une personne physique est par ailleurs considérée comme hautement indésirable et devrait également être soumise à une interdiction de principe". La Commission a exactement le même avis sur les systèmes utilisés pour la notation sociale ("social scoring"), qui, selon elle, devraient être systématiquement interdits. C'est également l'avis du Contrôleur européen de la protection des données (CEPD) et du Comité européen de la protection des données (EDPB).
Selon la CNIL, le futur règlement européen proposé par la Commission doit davantage prendre en compte la protection des données personnelles des utilisateurs. C'est là tout le défi de l’articulation avec le RGPD (règlement général sur la protection des données). Les autorités de protection des données européennes ont indiqué dans leur avis que : "la classification d'un système d'intelligence artificielle classé 'à haut risque' ne signifiait pas que son utilisation était autorisée et pouvait être déployée dans tous les cas".
Logiquement, la CNIL demande à être considérée comme l'autorité de référence concernant le contrôle national de l’intelligence artificielle. Ses homologues semblent tous d'accord sur ce point. Dans le cadre du futur règlement européen, il faut une entité de référence et la CNIL est certainement la mieux placée pour occuper cette place : "nous estimons qu’une telle désignation faciliterait la bonne application du futur règlement sur l’intelligence artificielle et la constitution d’un écosystème européen de l’intelligence artificielle favorable à l’innovation".
