The Information Commissioner’s Office (ICO), gendarme de la protection des données britannique, a émis un avis d’exécution préliminaire à l’encontre de Snapchat. Le réseau social est soupçonné d’« un manquement potentiel à l’obligation d’évaluer correctement les risques pour la vie privée posés par son chatbot d’IA générative « My AI » ».
Un avis préliminaire
Basé sur le modèle de langage GPT d’OpenAI, My AI est disponible pour tous les utilisateurs de Snapchat, qui peuvent converser avec l’intelligence artificielle ou lui demander des conseils. L’ICO craint que l’entreprise n’ait pas mis en place les mesures nécessaires pour protéger la vie privée des plus jeunes avec le chatbot.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
« Les conclusions provisoires de notre enquête suggèrent que Snap n’a pas identifié et évalué de manière adéquate les risques pour la vie privée des enfants et des autres utilisateurs avant de lancer « My AI » », a commenté le commissaire à l’information, John Edwards. L’ouverture d’un avis d’exécution préliminaire n’est pas un constat d’infraction, mais l’entreprise doit répondre aux préoccupations du régulateur avant que celui-ci ne prenne une décision finale.
« L’évaluation des risques en matière de protection des données est particulièrement importante dans ce contexte qui implique l’utilisation de technologies innovantes et le traitement de données personnelles d’enfants âgés de 13 à 17 ans », précise l’ICO. Si un avis d’exécution final devait être adopté, Snachat pourrait être tenu de cesser de traiter les données liées à My AI.
« Cela signifie que Snap ne proposera pas le produit « My AI » aux utilisateurs britanniques tant qu’il n’aura pas procédé à une évaluation adéquate des risques », continue l’agence.
Pas une première en Europe
« Conformément à notre approche standard en matière de développement de produits, My AI a fait l’objet d’un solide processus d’examen juridique et de protection de la vie privée avant d’être mis à la disposition du public », a réagi Snapchat.
Ce n’est pas la première fois qu’une IA conversationnelle se retrouve dans le collimateur des régulateurs européens concernant les données personnelles. En mars, l’autorité italienne a ordonné la suspension de ChatGPT. Le modèle a pu être réintroduit lorsqu’OpenAI a ajouté des informations plus détaillées sur la protection de la vie privée, ainsi que de nouveaux contrôles pour les utilisateurs.
En amont, le lancement européen de Google Bard a été retardé par ordre de la Commission irlandaise de la protection des données. L’outil a pu être déployé plus tard, une fois que la firme de Redmond a répondu aux inquiétudes des régulateurs.
