Où s'arrête la réduction du risque et où commence le crédit social, que la Commission européenne veut interdire dans l'Union avec son projet de règlement sur l'intelligence artificielle ?
En l'état, la Commission considère que les IA utilisées pour déterminer les conditions d'attribution d'une aide sociale sont susceptibles de violer les droits fondamentaux de personnes en situation vulnérable. Elles devraient donc être catégorisées "à haut risque".
Et pour rappel, l'article 22 du RGPD : "La personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l'affectant de manière significative"
Dans son bilan 2017, la CAF expliquait que le "datamining représente 70% des contrôles sur place" et que le "score de risque prédictif, généralisé à tout le réseau, permet de repérer plus précisément les dossiers à risques."
caf.fr/sites/default/…
La Caisse d'allocations familiales, qui "s’appuie sur le croisement de plusieurs centaines de données statistiques", a recours à ce dispositif depuis 2013.
cairn.info/revue-informat…
En janvier dernier, un article de @Rue89Strasbourg évoquait l'utilisation de ces statistiques prédictives pour traquer avec zèle les bénéficiaires du RSA.
rue89strasbourg.com/fraudes-au-rsa…
Tout ça donne envie de lire "Contrôler les assistés" de Vincent Dubois, sorti il y a quelques semaines chez @EdRaisons_agir.
p.s. : cet article sur la traque algorithmique des fraudeurs du fisc montre que ces outils affichent des résultats décevants mais ne sont pas sans effet ; en juin 2020, le @Defenseurdroits s'inquiétait ainsi d'une surreprésentation des plus précaires.
nextinpact.com/article/43388/…
Nonobstant, cette stratégie fait tâche d'huile : dans leur rapport d'octobre 2019 sur la lutte contre la fraude aux prestations sociales, @CGrandjean54 et @senateur61 écrivent que le datamining devrait être "largement renforcé" chez Pôle Emploi.
carolegrandjean.fr/wp-content/upl…
Share this Scrolly Tale with your friends.
A Scrolly Tale is a new way to read Twitter threads with a more visually immersive experience.
Discover more beautiful Scrolly Tales like this.