L'algorithme de la CAF : le crédit social des pauvres

Lorsqu'on a vu les images du crédit social en Chine consistant à noter les citoyens selon leur comportement — une bonne note ouvrant des privilèges, une mauvaise entraînant des interdictions —, beaucoup parlaient de complotisme lorsqu'on évoquait la possibilité d'appliquer un tel système en France. Pourtant, on dirait bien que la réalité est en train de rattraper la fiction.

​Depuis 2010, la CAF utilise un algorithme de scoring destiné à évaluer le niveau de risque associé aux dossiers des allocataires, notamment afin d’optimiser ses contrôles et de détecter d’éventuelles fraudes. Les allocataires ne peuvent ni connaître ce score, ni le contester avant qu'un contrôle ne soit déclenché. Or, ce dispositif cible davantage les personnes les plus vulnérables. En effet, certaines situations de précarité peuvent contribuer à l'attribution d'un score de risque élevé : faibles revenus, mères célibataires, variations de ressources ou déménagements fréquents. Autant de critères structurels liés à la pauvreté que l'algorithme de la CAF interprète comme des anomalies ou des fraudes potentielles.

​Plus ce score invisible grimpe, plus le risque de subir un contrôle à domicile augmente. Pire encore, dans certaines régions, les prestations peuvent être suspendues pendant toute la durée des vérifications, coupant les vivres à des ménages déjà en difficulté. Là où la Chine a développé des systèmes de contrôle basés sur l’évaluation des comportements de la population, le cas français illustre plutôt une bureaucratie qui, par les algorithmes, finit par surveiller et punir plus sévèrement les citoyens les plus précaires.

​Le numérique nous fait entrer définitivement dans une ère de contrôle et de surveillance généralisée. Déjà, le pass sanitaire imposé contre le Covid-19 avait montré comment on pouvait conditionner nos libertés, en triant les citoyens et en restreignant l'accès aux lieux publics des non-vaccinés par la présentation d'un QR code. Aujourd'hui, l'algorithme de la CAF pourrait s'apparenter à un crédit social des pauvres. Mais l'histoire montre qu'une fois acceptée sur les plus fragiles, une telle mesure est toujours amenée à se généraliser à l'ensemble de la population. On voit se dessiner un scénario à la Black Mirror[1], où l'existence de chaque citoyen dépendra bientôt d'une simple évaluation algorithmique.

Nicolas Maxime