Ces dernières semaines, la Quadrature du Net a réussi à obtenir le code source de deux algorithmes utilisés par la Caisse d’Allocations Familiales (CAF) entre 2010 et 2018 pour lutter contre la fraude sociale. Après les avoir analysés, l’association de défense des droits et libertés sur le Net est catégorique : cet outil ciblerait de manière discriminante ses allocataires les plus précaires.

« L’algorithme de la honte »

En étudiant le code source, la Quadrature du Net a découvert que les algorithmes de la CAF avaient pour but de déterminer le « score de suspicion » de ses allocataires. En fonction de celui-ci, l’organisme jugeait s’il était nécessaire de contrôler l’individu afin de réclamer d’éventuels trop-perçus.

Parmi les critères pris en compte pour le calcul de ce score : la situation familiale, professionnelle et financière, le lieu de résidence, le type et montant des prestations reçues, la fréquence des connexions à l’espace web, le délai depuis le dernier déplacement à l’accueil, le nombre de mails échangés, le délai depuis le dernier contrôle, et le nombre et types de déclarations. En tout, ce sont une quarantaine de paramètres qui étaient pris en compte par l’algorithme pour cibler les allocataires les plus suspicieux.

Le fait de disposer de revenus faibles, d’être au chômage, d’être allocataire du RSA, d’habiter dans un quartier sensible, de consacrer une partie importante de ses revenus à son loyer, ou de ne pas avoir de travail ou de revenus stables, constitue des critères d’augmentation du taux de suspicion. La Quadrature du Net dénonce également que l’algorithme visait tout particulièrement les personnes bénéficiant de l’Allocation Adulte Handicapé (AAH) et qui travaillent. Il s’agirait d’ailleurs d’un des paramètres les plus impactant sur le score de suspicion.

Score de suspicion de la CAF.

Plus le score est haut, plus les allocataires seront susceptibles d’être contrôlés par la CAF, et à ses yeux, d’avoir perçu un surplus d’allocations. Graphique : La Quadrature du Net.

En tout, 32 millions de personnes, dont 13 millions d’enfants vivant dans un foyer bénéficiaire des aides de la CAF auraient été visés par ces algorithmes. La caisse des allocations familiales n’a pas souhaité fournir à l’association le code source du dernier algorithme qu’elle utilise. Pour se défendre, un directeur de la CAF avait assuré à la Quadrature du Net que « l’algorithme était neutre », ajoutant même que cet outil était « l’inverse d’une discrimination » puisque « nul ne pouvait expliquer pourquoi un dossier était ciblé ».

Au début de l’année, l’association avait déploré la diffusion publique des données personnelles de 10 000 allocataires de la Caisse d’allocations familiales de Gironde. Un de ses prestataires avait reçu un fichier comportant ces informations, qui les ont mis en ligne par mégarde.