Thread by @oliviertesquet

👇 Cette semaine dans les pages Idées de @Telerama, je me suis intéressé au profilage algorithmique des plus précaires par les organismes de prestations sociales. Saviez-vous que la CAF compilait 1000 données par allocataire afin de leur attribuer un score de risque ?

Tout est parti du témoignage publié par @Lucie_Inland sur @algorithmwatch en avril. Elle y raconte comment elle est passée sous les fourches caudines du "robo-debt". Six mois plus tard, elle ne sait toujours pas ce qui a déclenché l'alerte.

algorithmwatch.org/en/robo-debt-f…

Certes, comme l'explique très bien le sociologue Vincent Dubois, cette "administration de la pauvreté" est aussi vieille que l'aide qu'on fournit aux pauvres. Le médiéviste polonais Bronislaw Geremek en parlait déjà dans La potence ou la pitié (1987).

Ce qui change avec l'irruption du data mining (aujourd'hui, l'IA cible 1/3 des contrôles fiscaux), c'est qu'on change de focale. "Le risque n'est plus la maladie, la vieillesse ou la mort, mais la morale personnelle". La société ? Une addition de comportements individuels.

Ce virage technologique vient sans surprise s'adosser à la rhétorique de l'abus, véritable martingale politique depuis le milieu des années 90. Encore un exemple très récent, brutal, avec la déclaration de Macron sur "la réparation des destins".

https://twitter.com/Melusine_2/status/1448179854902398977

Destins qui, du reste, n'existent plus vraiment : "L'informatisation produit un effet de déréalisation", poursuit Dubois. "Les situation personnelles n'existent plus que sous une forme abstraite, sans tenir compte des réalités sociales ou humaines".

Dans Automating Inequality (2018), Virginia Eubanks (@PopTechWorks) décrit par le menu les risques de ce système punitif, dans lequel "seuls les pauvres sont placés sous le microscope de la clarté scientifique". Le risque : voir émerger des "hospices digitaux".

Une question pour terminer : pourquoi, à l'heure des #PandoraPapers et de ses milliards évaporés, cette traque méthodique ne concerne-t-elle pas les grandes fortunes ? Parce que celles-ci, symboles de réussite, ne sont pas suspectées d'abuser de la générosité publique ?

La version numérique du papier est ici : telerama.fr/debats-reporta…

Je profite de ce thread pour évoquer un sujet dans le sujet : le risque de surreprésentation des mères isolées, à la fois prisonnières de "trappes à précarité" et d'injonctions au travail à tout prix.

monde-diplomatique.fr/2021/02/TOURET…
cairn.info/revue-travail-…