Dans une lettre ouverte datée du 5 février, une trentaine d’associations de défenses des libertés publiques et numériques, dont la Quadrature du Net et le collectif Changer le Cap, ont dénoncé les algorithmes de scoring exploités par la Caisse d’Allocations Familiales (CAF). Elles somment le Premier ministre, Gabriel Attal, de mettre un terme à leur utilisation.

Le système de scoring de la CAF dans le viseur des associations

Dans leur courrier, les associations sont revenues sur les pratiques de la CAF, accusée de cibler de manière discriminante ses allocataires les plus précaires. En novembre dernier, La Quadrature du Net dénonçait les « algorithmes de la honte », des outils utilisés au cours des années 2010 dans le but de déterminer le « score de suspicion » de ses allocataires.

Le fait de disposer de revenus faibles, d’être au chômage, d’être allocataire du RSA, d’habiter dans un quartier sensible, de consacrer une partie importante de ses revenus à son loyer, ou de ne pas avoir de travail ou de revenus stables, constitue des critères d’augmentation du taux de suspicion. En fonction de celui-ci, l’organisme jugeait s’il était nécessaire de contrôler l’individu afin de réclamer d’éventuels trop-perçus.

Bien qu’ils ne soient plus exploités, les associations accusent la CAF d’avoir perpétué ce système de scoring avec le nouvel algorithme qu’elle utilise. Pour elles, ils contribuent à une « maltraitance institutionnelle » des CAF, aux « multiples conséquences sur le plan matériel et psychologique ». En interpellant Gabriel Attal, les signataires de la lettre ouverte espèrent que le gouvernement renoncera à l’utilisation de ces algorithmes de notations, que ce soit à la CAF ou dans d’autres organismes publics tels que France Travail, anciennement Pôle emploi.

Suite aux révélations de La Quadrature du Net, le directeur de la Caisse nationale des allocations familiales (CNAF), Nicolas Grivel, avait assuré que l’algorithme en question « était neutre ». Il avait ajouté que cet outil était « l’inverse d’une discrimination » puisque « nul ne pouvait expliquer pourquoi un dossier était ciblé ». Au cours du mois de décembre, Le Monde saisissait le tribunal administratif afin d’obtenir des documents en lien avec le score de suspicion. La CNAF a refusé de fournir de tels documents, affirmant qu’elle « ne peut communiquer des pièces dont elle ne dispose pas ».

Fin janvier, le dirigeant de la CNAF était auditionné par le Sénat autour de ce système de scoring. Nicolas Grivel a refusé de donner des détails autour du fonctionnement de cet algorithme, assurant que l’organisme ne ciblait pas les familles monoparentales. Il a précisé que les publics fragiles étaient plus nombreux à être contrôlés, car ils constituaient une grande partie des allocataires. Quoi qu’il en soit, la CAF n’aurait pas établi de cahier des charges avant de concevoir son dernier outil, et aurait omis de l’évaluer pour tester d’éventuels biais algorithmiques.