Il y a plus d’un an maintenant, Facebook dévoilait une nouvelle technologie pour détecter le contenu abusif. Alors que Microsoft a plus récemment dévoilé son projet Artemis pour protéger les enfants des abus sur internet, de plus en plus de vidéos et d’images sont signalées et supprimées par de grandes plateformes sociales pour abus sexuels, concernant notamment des personnes mineures.

70 millions d’images signalées en 2019

Comme le rapporte le New York Times, les plateformes technologiques restent infestées de contenu illégal. Pour preuve ,en 2019, le nombre de contenus signalés a augmenté de plus de 50% sur les plateformes, 70 millions d’images ont été signalées, au total, au National Center for Missing and Exploited Children. Il s’agit en fait d’une chambre de compensation désignée par le gouvernement fédéral américain qui travaille avec les forces de l’ordre.

Les vidéos sont un format que les plateformes réussissent plus facilement à détecter. Cependant, il s’agit aussi du format le plus populaire auprès des prédateurs, il y a donc eu 41 millions de vidéos signalées en 2019. C’est beaucoup plus qu’il y a 5 ans où le nombre de signalements ne dépassait pas les 350 000.

En 2019, Facebook a relevé 60 millions de contenus, mêlant photos et vidéos, ce qui représente au total 85% des signalements. Cela montre plusieurs éléments, d’une part que le réseau social est très populaire et affiche un très important nombre d’utilisateurs, mais aussi qu’il a une approche agressive pour limiter le contenu indésirable, approche qui, cependant, n’exclut pas totalement l’activité des prédateurs. Pour Antigone Davis, responsable mondial de la sécurité chez Facebook, il est important de continuer “à développer les meilleures solutions pour assurer la sécurité d’un plus grand nombre d’enfants”.

164 entreprises ont fait des signalements d’abus sexuels

Pour John Shehan, le vice-président du National Center for Missing and Exploited Children, “Ces chiffres montrent que tout fournisseur de services qui autorise des individus à héberger des images et des vidéos est susceptible de publier du matériel d’exploitation sexuelle des enfants”.

Dans l’ensemble, ce sont pas moins de 164 entreprises qui ont fait un rapport pour signaler des contenus. Parmi ces entreprises, Google a signalé plus de 3,5 millions d’images et vidéos, Yahoo plus de 2 millions, Imhur plus de 260 000. Dropbox, Microsoft, Snap et Twitter en ont également signalé plus de 100 000 l’an passé.
Apple, de son côté, en a seulement signalé un peu plus de 3 000 au total. Il s’agit là uniquement d’images, aucune vidéo n’a été signalée. Cela permet ici de constater les difficultés de la société à analyser les contenus envoyés à partir de l'application de messagerie.

Face aux différents rapports effectués par les entreprises, Alex Stamos, qui était chef de la sécurité de l'information à la fois sur Facebook et Yahoo, a indiqué que “Si toutes les entreprises impliquées regardaient aussi agressivement les contenus que Facebook, le nombre de rapports pourrait être de 50 millions, voire même 100 millions” signe qu’il reste encore bien trop de contenus non signalés par les entreprises, qui ne possèdent pas toujours des outils suffisamment performants.