La Commission européenne a présenté le 11 mai une proposition législation pour lutter contre les abus sexuels sur les enfants sur Internet. Révélé quelques jours auparavant par Politico, le texte inquiète les défenseurs de la vie privée en ligne.

Pour la Commission européenne, toutes plateformes ne luttent pas assez contre les contenus pédopornographiques

Pour la Commission européenne, le système actuel de détection et de signalement des contenus pédopornographiques, basés sur la bonne volonté des plateformes « s’est révélé insuffisant pour protéger correctement les enfants ».

Elle indique que « Jusqu'à 95 % de l'ensemble des signalements d'abus sexuels concernant des enfants qui ont été reçus en 2020 provenaient d'une seule entreprise, même s'il est clairement prouvé que le problème n'est pas propre à une seule plateforme ». Pour Ylva Johansson, commissaire aux affaires intérieures, porteuse du texte, « Beaucoup d'entreprises ne font pas la détection aujourd’hui ».

Pour remédier à cette situation et assurer la sécurité des plus jeunes sur Internet, la Commission propose de nouvelles règles pour imposer aux messageries de discussion et aux services d’hébergement « à détecter, signaler et retirer les matériels relatifs aux abus sexuels commis sur des enfants ».

Les mesures envisagées dans le texte ont suscité une levée de boucliers des défenseurs de la vie privée. L’European Digital Rights, un groupe de défense des droits numériques a publié un communiqué alarmiste sur la proposition, « Aujourd'hui, 11 mai est un jour inquiétant pour toute personne dans l'UE qui souhaite envoyer un message en privé sans exposer ses informations personnelles, comme les chats et les photos, à des entreprises privées et à des gouvernements ».

Selon le texte, les fournisseurs de services devront évaluer les risques de diffusion de contenus pédopornographique sur leurs plateformes. Si ce risque existe et n’est pas atténué, les autorités nationales pourront demander des injonctions pour détecter ces contenus, elles devront les signaler à un nouveau centre indépendant dédié de l’Union européenne, les retirer rapidement.

Un flou propice aux violations de la vie privée des utilisateurs

Si la Commission écrit bien que « Les fournisseurs devront déployer des technologies qui soient les moins intrusives au regard de la vie privée en l'état actuel de la technique dans le secteur », cela ne rassure guère.

L’objectif du texte est de repérer les images pédopornographiques connues, mais aussi inconnues et les échanges entre des adultes et des enfants problématiques. Apple a tenté de mettre en place un système moins ambitieux, une détection automatisée des images pédopornographiques connues sur l’iPhone. Cupertino a dû reporter son projet devant la bronca générale.

Il se trouve que pour parvenir à identifier ces contenus des messageries comme WhatsApp, Signal, Facebook Messenger, devront mettre en place des systèmes, des IA de reconnaissance d’images et de texte. Au-delà de l’intrusion que cela représente, les IA devront être suffisamment performantes pour éviter les faux positifs, exercice particulièrement difficile avec des images inconnues ou les textes.

C’est aussi l’arrêt de mort du chiffrage de bout en bout des messageries. Sur Twitter, Will Cathcart dirigeant de WhatsApp s’est dit extrêmement déçu que « les régulateurs européens échouent à protéger le chiffrement de bout en bout ».

Joe Mullin, analyste politique du groupe de défense des droits numériques de l’Electronic Frontière Foundation, a déclaré à CNBC qu’il n’y a « aucun moyen de faire ce que la proposition de l'UE cherche à faire, si ce n'est que les gouvernements lisent et scannent les messages des utilisateurs à grande échelle ».

Les défenseurs de la vie privée sur Internet craignent que l’UE donne un mauvais exemple au monde

L’influence réglementaire mondiale de l’Europe sur les questions numériques est une autre source d’anxiété pour les défenseurs de la vie privée, « si l’UE exige un système de détection comme celui-ci dans un but précis, il sera utilisé pour porter atteinte aux droits de l’homme de différente manière dans le monde » anticipe Will Cathcart.

Politico rapporte que le texte pour lutter contre les abus sexuels sur Internet de la Commission a également suscité des doutes en interne. La loi a été reportée d’un an en raison des négociations avec les plateformes et la question de l’impact de la législation sur le respect de la vie privée a été posée.

Pour le moment, le texte est encore loin d’aboutir. La proposition de règlement va être étudiée avec le Parlement et le Conseil de l’Union européenne. Les deux institutions, avec la Commission, devront ensuite s’accorder sur une version finale. Un tel compromis ne devrait pas être trouvé avant au moins 2023.