L'algorithme cible spécifiquement les "allocataires déjà fragilisés dans leurs parcours de vie", selon les associations, qui dénoncent une "discrimination".
( AFP / PHILIPPE HUGUEN )
Quinze associations ont annoncé mercredi 16 octobre saisir le Conseil d'État pour obtenir la suppression d'un algorithme utilisé par la Caisse nationale des allocations familiales (CNAF) pour lutter contre la fraude sociale. Elles dénoncent notamment les critères utilisés pour attribuer un "score du suspicion" et déterminer les bénéficiaires qui doivent faire l'objet d'un contrôle.
Le recours, déposé mardi soir auprès de l'instance, "porte tant sur l'étendue de la surveillance à l’œuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisés dans leurs parcours de vie", écrivent dans un communiqué Amnesty International, la Quadrature du Net, la Fondation Abbé Pierre et les autres associations recquérantes.
"Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l'objet d'un contrôle. Plus il est élevé, plus la probabilité d'être contrôlé est grande", soulignent-elles, précisant que cet outil "analyse les données personnelles des plus de 32 millions de personnes vivant dans un foyer recevant une prestation CAF".
Après avoir eu accès au "code source" d'une version de cet algorithme, utilisée entre 2014 et 2018, les associations affirment que "parmi les facteurs venant augmenter un score de suspicion, on trouve notamment le fait d'avoir de faibles revenus, d'être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l'allocation adulte handicapé (AAH)".
Sur-contrôle des personnes en difficulté
"En retour, les personnes en difficulté se retrouvent sur-contrôlées par rapport au reste de la population", dénoncent-elles.
Les associations ont demandé en juillet à la CNAF de cesser l'utilisation de cet algorithme : "Dans la mesure où nous n'avons pas, au bout de deux mois, reçu de réponses de la part de la CNAF, cela a fait naître une décision implicite de refus", explique à l' AFP Katia Roux, chargée de plaidoyer Technologie et Droits humains à Amnesty.
Utilisé depuis 2011, l'outil statistique vise à identifier parmi les 13,5 millions d'allocataires les plus susceptibles de commettre des erreurs dans leur déclaration, avait indiqué à l' AFP en novembre 2023 le directeur général de la CNAF, Nicolas Grivel.
Les bénéficiaires de certains minima sociaux, comme le RSA ou la prime d'activité, dont les revenus varient souvent, doivent remplir des déclarations de revenus trimestrielles avec des formulaires complexes et sont plus à risque de commettre des erreurs. Selon la CNAF, cet algorithme vise à repérer ces allocataires pour effectuer des contrôles rapidement et rectifier les erreurs .
"Notre objectif est de limiter au maximum les erreurs déclaratives et leurs conséquences en termes de génération d'indus", avait déclaré alors Nicolas Grivel, affirmant qu'il n'est "pas discriminatoire" et ne cible "pas forcément les personnes les plus pauvres mais celles dont les revenus varient" .
19 commentaires
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer