En ligne, les enfants sont de plus en plus exposés aux dangers d’internet et donc aux images à caractère sexuel. Pour lutter contre cela, Apple a dévoilé le 5 août des outils ayant un but bien précis : repérer les contenus pédopornographiques. Ils seront effectifs lors des prochaines mises à jour des systèmes d’exploitation sur iPhone, iPad, Apple Watch, Mac, mais aussi iCloud. Pour le moment, cela ne concerne que les États-Unis.

Apple présente trois outils pour lutter contre la pédopornographie

Déjà en mai 2019, les géants de la Tech, dont Apple, contribuaient à une enquête sur les crimes pédophiles en ligne. Afin de poursuivre sur cette voie, l’entreprise déploie aujourd’hui trois nouvelles mesures.

Protéger les enfants au sein de l’application Messages

La première concerne l’application Messages, qui se dotera des fonctionnalités permettant de prévenir l’enfant que le contenu qui lui est partagé est potentiellement sensible. Par cela sont sous-entendues des images sexuellement explicites envoyées par des prédateurs. Lorsque le jeune utilisateur recevra ce type de photos, elles seront systématiquement floutées. Sur son téléphone, une alerte lui expliquant les dangers du message qui vient de lui être envoyé apparaîtra.

démonstration de l'outil contre la pédocriminalité dans messages

Le nouvel outil présent dans Messages visera à protéger un enfant de ce qu’il reçoit. Image : Apple

Si le mineur décide malgré tout de voir le contenu, une notification pourra être transmise à ses parents s’ils ont activé cette fonctionnalité. Il en est de même lorsqu’il partage une photo à caractère sexuel. Néanmoins, cet outil ne sera disponible qu’aux familles possédant un compte iCloud commun.

Un outil de détection d’images pédophiles

Afin de lutter efficacement contre la pédocriminalité, Apple utilisera une technologie de détection d’images appelée NeuralHatch. Elle analysera le contenu présent dans la galerie photos. Elles seront alors comparées avec celles présentes dans un fichier détenu par le Centre national des enfants disparus et exploités (NCMEC), une organisation travaillant avec les forces de l’ordre américaines.

Si la similitude est assez élevée, la photo sera alors transmise à Apple, qui l’examinera. En cas de correspondance et de dépassement d’un certain seuil, elle sera envoyée aux autorités, sans prévenir l’utilisateur. L’entreprise garantit un niveau “extrêmement élevé” de vigilance pour que des comptes ne soient pas signalés et supprimés inutilement.

Siri deviendra également un allié de taille

Enfin, Siri et les fonctionnalités de recherche seront également utilisés dans ces nouvelles mesures de protection. Ils proposeront des liens rapportant des cas d’exploitation sexuelle de mineurs si l’utilisateur en demande. L’objectif semble plutôt pédagogique.

démonstration de l'outil de Siri contre la pédocriminalité

Le mineur aura accès à des ressources grâce à Siri et aux fonctionnalités de recherche. Image : Apple

Des nouveautés qui soulèvent de nombreuses questions

Bien que la firme indique ne pas avoir directement accès aux messages et aux images, ces affirmations ne convainquent pas tout le monde. Pour Greg Nojeim du Centre pour la démocratie et la technologie (CDT), “Apple remplace son système de messagerie crypté de bout en bout par une infrastructure de surveillance et de censure, qui sera vulnérable aux abus et aux dérives non seulement aux États-Unis, mais dans le monde entier”.

De nombreux utilisateurs craignent que ces outils soient utilisés abusivement et étendus à d’autres catégories de contenus jugés illicites. Certains d’entre eux redoutent également la surveillance de masse. Pour le CDT, ces changements “marquent une rupture significative par rapport aux protocoles de confidentialité et de sécurité établis de longue date”.