Ces dernières semaines, la Quadrature du Net a réussi à obtenir le code source de deux algorithmes utilisés par la Caisse d’Allocations Familiales (CAF) entre 2010 et 2018 pour lutter contre la fraude sociale. Après les avoir analysés, l’association de défense des droits et libertés sur le Net est catégorique : cet outil ciblerait de manière discriminante ses allocataires les plus précaires.
« L’algorithme de la honte »
En étudiant le code source, la Quadrature du Net a découvert que les algorithmes de la CAF avaient pour but de déterminer le « score de suspicion » de ses allocataires. En fonction de celui-ci, l’organisme jugeait s’il était nécessaire de contrôler l’individu afin de réclamer d’éventuels trop-perçus.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
Brassant les nombreuses données que la CAF a sur ses allocataires, cet algorithme attribue à chacun·e un "score de suspicion", qui indique le degré de confiance que leur accorde la CAF, et dont la dégradation déclenche des contrôles.
— La Quadrature du Net (@laquadrature) November 27, 2023
Parmi les critères pris en compte pour le calcul de ce score : la situation familiale, professionnelle et financière, le lieu de résidence, le type et montant des prestations reçues, la fréquence des connexions à l’espace web, le délai depuis le dernier déplacement à l’accueil, le nombre de mails échangés, le délai depuis le dernier contrôle, et le nombre et types de déclarations. En tout, ce sont une quarantaine de paramètres qui étaient pris en compte par l’algorithme pour cibler les allocataires les plus suspicieux.
Le fait de disposer de revenus faibles, d’être au chômage, d’être allocataire du RSA, d’habiter dans un quartier sensible, de consacrer une partie importante de ses revenus à son loyer, ou de ne pas avoir de travail ou de revenus stables, constitue des critères d’augmentation du taux de suspicion. La Quadrature du Net dénonce également que l’algorithme visait tout particulièrement les personnes bénéficiant de l’Allocation Adulte Handicapé (AAH) et qui travaillent. Il s’agirait d’ailleurs d’un des paramètres les plus impactant sur le score de suspicion.
En tout, 32 millions de personnes, dont 13 millions d’enfants vivant dans un foyer bénéficiaire des aides de la CAF auraient été visés par ces algorithmes. La caisse des allocations familiales n’a pas souhaité fournir à l’association le code source du dernier algorithme qu’elle utilise. Pour se défendre, un directeur de la CAF avait assuré à la Quadrature du Net que « l’algorithme était neutre », ajoutant même que cet outil était « l’inverse d’une discrimination » puisque « nul ne pouvait expliquer pourquoi un dossier était ciblé ».
Au début de l’année, l’association avait déploré la diffusion publique des données personnelles de 10 000 allocataires de la Caisse d’allocations familiales de Gironde. Un de ses prestataires avait reçu un fichier comportant ces informations, qui les ont mis en ligne par mégarde.