L’Italie est devenue, ce vendredi 31 mars, le premier pays occidental à bloquer l’usage de ChatGPT. Selon l’agence de protection des données du pays, l’intelligence artificielle (IA) d’OpenAI ne respecte pas le RGPD.

Non respect de la législation sur le traitement des données

Lancé fin novembre 2022, ChatGPT est considéré comme une révolution par l’industrie de la tech. Le dispositif attire de nombreux internautes impressionnés par ses capacités conversationnelles. Selon les régulateurs italiens néanmoins, OpenAI ne dispose pas de justification légale pour la collecte des informations personnelles des utilisateurs, ce qui représente une violation de la législation européenne.

« Aucune information n’est fournie aux utilisateurs et aux personnes concernées dont les données sont collectées par Open AI ; plus important encore, aucune base juridique ne semble sous-tendre la collecte et le traitement massifs de données à caractère personnel en vue “d’entraîner” les algorithmes sur lesquels la plateforme s’appuie », affirment-ils.

Ils citent notamment une fuite de données survenue le 20 mars dernier concernant les conversations des utilisateurs et les informations relatives au paiement des abonnés au service payant. Cette décision a pour conséquence « la limitation provisoire du traitement des données des utilisateurs italiens vis-à-vis d’OpenAI ».

Pas de mesure pour vérifier l’âge des mineurs sur ChatGPT

En outre, l’agence reproche à OpenAI de ne pas avoir mis en place de mécanisme pour empêcher les utilisateurs de moins de 13 ans d’accéder au service, ce qui les « expose à des réponses absolument inadaptées par rapport à leur degré de développement et de conscience de soi ». La société, largement soutenue par Microsoft, dispose de 20 jours pour communiquer ses mesures visant à remédier à la situation.

Dans le cas contraire, elle s’expose à une sanction allant jusqu’à 20 millions d’euros ou jusqu’à 4 % de son chiffre d’affaires mondial annuel, le maximum prévu par le RGPD. Selon l’AFP, citée par France 24, la CNIL « n’a pas reçu de plainte et n’a pas de procédure similaire en cours ». Elle s’est toutefois rapprochée de son homologue italien afin de « clarifier le cadre légal dans les prochains mois ».

L’UE veut réguler l’IA

Ce n’est pas la première fois que l’Italie procède de cette manière. En février, elle bloquait, pour des raisons similaires, l’application Replika, qui propose une IA permettant de discuter avec un avatar sur-mesure.

Globalement, l’Union européenne s’inquiète du déploiement de l’intelligence artificielle et développe actuellement un projet de régulation pour mieux encadrer son utilisation. La semaine dernière, de nombreux chercheurs ont cosigné une lettre visant à avertir sur les dangers de cette technologie et de la rapidité à laquelle elle est déployée.