Il y a deux mois, La Quadrature a dévoilé le code source de l’algorithme de notation de la CAF, mettant en lumière un système de surveillance attribuant des scores de suspicion à plus de 12 millions de personnes. Malgré les critiques, la CAF n’a pas mis fin à ces pratiques.
Face aux critiques, les responsables de la CAF ont opté pour une attitude défensive. Dans une première réaction, le directeur, Nicolas Grivel, a tenté de minimiser les pratiques de la CAF en déclarant publiquement qu’elle n’avait pas à rougir ni à s’excuser. Cependant, une autre révélation récente est bien plus troublante. Pendant qu’il tenait de tels propos, il cherchait secrètement à élargir les capacités de surveillance de l’algorithme en intégrant un suivi en “temps réel” des revenus de tous les allocataires. Cette demande a été approuvée par la CNIL le 29 janvier dernier.
Lire aussi :
- Prix des pellets : après deux baisses consécutives, le prix se stabilise à un tarif plus qu’abordable
- CAF : une aide de 635 euros va bientôt être versée, êtes-vous concerné ?
Surveillance accrue et augmentation de la “productivité” des contrôles
Le revenu représente l’une des nombreuses variables prises en compte par la CAF pour évaluer ses allocataires. Comme nous l’avons précédemment démontré, les allocataires à faible revenu se voient attribuer des scores de suspicion plus élevés, augmentant ainsi leur probabilité d’être soumis à des contrôles. Cette pratique contribue directement au ciblage et à la discrimination des personnes défavorisées.
Jusqu’à présent, les informations sur les revenus des allocataires étaient obtenues annuellement auprès des impôts ou collectées trimestriellement via des déclarations. Désormais, l’algorithme de la CAF aura un accès en temps réel aux ressources financières des 12 millions d’allocataires, y compris leurs salaires et prestations sociales.
Pour ce faire, l’algorithme de la CAF sera alimenté par une vaste base de données appelée “Dispositif des Ressources Mensuelles” (DRM), créée en 2019 lors de la réforme des APL. Cette base est mise à jour quotidiennement et offre des capacités de surveillance considérables pour évaluer les allocataires. L’extension de la surveillance vise à accroître la “productivité du dispositif” selon les responsables de la CAF, en dépit des témoignages révélant les abus subis par les plus vulnérables lors des contrôles et du faible montant récupéré par l’algorithme comparé aux prestations sociales versées. Cette autorisation, donnée à titre “expérimental” pour un an, soulève des inquiétudes quant à l’utilisation future de la surveillance numérique.
La CNIL à la dérive
La décision de la CNIL d’autoriser la CAF à renforcer considérablement les capacités de surveillance de son algorithme de notation soulève des préoccupations majeures. Les recommandations de la CNIL se concentrent principalement sur la transparence de l’algorithme et sur la nécessité d’un rapport détaillé sur le “gain de productivité du dispositif”. Cette approbation semble réduire la violation de la vie privée des plus de 30 millions de personnes bénéficiant d’une aide de la CAF à une simple question financière.
Il est troublant de constater l’absence de critiques politiques à l’égard de ce dispositif, malgré les avertissements répétés émanant de différents collectifs et de la Défenseure des Droits sur les conséquences humaines désastreuses de cet algorithme. La CNIL mentionne le risque médiatique associé à une affaire similaire aux Pays-Bas ayant entraîné la démission du gouvernement en janvier 2021, soulignant ainsi son rôle de simple agence de communication pour les administrations souhaitant surveiller la population.
Par ailleurs, la CNIL évoque les “conséquences dramatiques” potentielles des décisions individuelles biaisées induites par l’algorithme et demande à ce qu’il soit “conçu avec soin”. Cependant, cette demande semble témoigner d’une certaine incompétence technique de ses membres, car l’algorithme vise principalement à détecter les erreurs déclaratives plutôt que la fraude, ciblant ainsi les allocataires les plus précaires pour maximiser le “rendement des contrôles”.
“Solidarité” en question et surveillance accrue : une invitation à débattre
Si le directeur de la CAF ne semble pas disposé à abandonner immédiatement son algorithme de notation des allocataires, il est choquant de constater que sa seule réponse soit de renforcer considérablement les capacités de surveillance. C’est pourquoi un appel à la mobilisation contre les pratiques numériques de contrôle des administrations sociales, en particulier de la CAF, est lancé aux côtés des collectifs engagés depuis le début de cette lutte.
Au-delà du mépris manifesté par la CAF face à l’opposition croissante à ses pratiques de contrôle, cette décision met en lumière les dangers de la surveillance généralisée induits par le projet gouvernemental de “solidarité” à la source. Ce projet, présenté comme une mesure sociale phare du quinquennat, vise à automatiser le calcul des aides sociales en substituant le système déclaratif par un pré-remplissage des déclarations nécessaires à l’accès aux prestations sociales.
La mise en œuvre de cette automatisation requiert une infrastructure numérique de grande envergure, notamment le DRM, qui centralise les données financières de la population française. Cette autorisation accordée à la CAF pour utiliser le DRM afin d’alimenter son algorithme de notation soulève des préoccupations majeures quant à la protection de la vie privée et à l’utilisation des données à des fins de contrôle.
