L’État du Nouveau-Mexique vient d’intenter une action en justice ciblant Meta et son PDG, Mark Zuckerberg. Ses plateformes, Facebook et Instagram, sont accusées de permettre la diffusion de matériel pédopornographique, et de ne pas protéger les mineurs des prédateurs et du contenu à caractère sexuel.
Une enquête sous couverture
Avant de se rendre devant la justice, les enquêteurs ont mené une longue investigation sous couverture. Ils ont créé quatre faux comptes d’enfants, avec des images générées par intelligence artificielle (IA). Premier faux pas de Meta : la vérification de l’âge mise en place sur ses plateformes n’est absolument pas efficace, alors que les enfants de moins de 13 ans ne sont pas censés y détenir de profil. Pire encore, ses algorithmes ont commencé à pousser du contenu sexuel vers les comptes peu de temps après leur création.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
« Meta a permis à Facebook et Instagram de devenir une place de marché pour les prédateurs à la recherche d’enfants sur lesquels s’en prendre », dénonce la plainte. L’enquête a mené à des découvertes préoccupantes. Sur Facebook Messenger, les conversations de l’un des comptes sont « remplies de photos et de vidéos d’organes génitaux, y compris de pénis exposés, qu’il recevait au moins 3 à 4 fois par semaine », continue le document.
Un autre profil s’est vu offrir de l’argent en échange de sa participation dans une vidéo pornographique, l’interlocuteur lui indiquant qu’il acceptait les enfants dès l’âge de 10 ans. Selon les investigateurs, « certains contenus exploitant les enfants » sont dix fois « plus répandus » sur Facebook et Instagram que sur le site pornographique PornHub et la plateforme de contenus pour adultes OnlyFans.
Lorsque les comptes tests signalaient des contenus inappropriés à Meta à l’aide de ses systèmes dédiés, la société a systématiquement jugé que les images étaient acceptables, selon la plainte.
Meta assure tout mettre en œuvre pour protéger les mineurs
Pourtant, Meta a récemment renforcé ses mesures afin de protéger les mineurs sur ses plateformes, notamment avec la mise en place d’un groupe de travail spécialisé plus tôt cette année.
Contactée par le Wall Street Journal, l’entreprise affirme que la protection des enfants est sa priorité, et qu’elle investit massivement dans des équipes de sécurité. « Nous utilisons des technologies sophistiquées, nous engageons des experts en sécurité des enfants, nous signalons le contenu au National Center for Missing and Exploited Children et nous partageons des informations et des outils avec d’autres entreprises et avec les forces de l’ordre, y compris les procureurs généraux des États, pour aider à débusquer les prédateurs », se défend-elle.
Cette plainte s’ajoute à une autre action en justice déposée au mois d’octobre par des dizaines d’États américains. Ils allèguent qu’Instagram et Facebook ont délibérément été conçus avec des fonctions addictives nuisant aux jeunes utilisateurs.