Où s'arrête la réduction du risque et où commence le crédit social, que la Commission européenne veut interdire dans l'Union avec son projet de règlement sur l'intelligence artificielle ?
En l'état, la Commission considère que les IA utilisées pour déterminer les conditions d'attribution d'une aide sociale sont susceptibles de violer les droits fondamentaux de personnes en situation vulnérable. Elles devraient donc être catégorisées "à haut risque".
Et pour rappel, l'article 22 du RGPD : "La personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l'affectant de manière significative"
Dans son bilan 2017, la CAF expliquait que le "datamining représente 70% des contrôles sur place" et que le "score de risque prédictif, généralisé à tout le réseau, permet de repérer plus précisément les dossiers à risques."
La Caisse d'allocations familiales, qui "s’appuie sur le croisement de plusieurs centaines de données statistiques", a recours à ce dispositif depuis 2013.
En janvier dernier, un article de @Rue89Strasbourg évoquait l'utilisation de ces statistiques prédictives pour traquer avec zèle les bénéficiaires du RSA.
Tout ça donne envie de lire "Contrôler les assistés" de Vincent Dubois, sorti il y a quelques semaines chez @EdRaisons_agir.
p.s. : cet article sur la traque algorithmique des fraudeurs du fisc montre que ces outils affichent des résultats décevants mais ne sont pas sans effet ; en juin 2020, le @Defenseurdroits s'inquiétait ainsi d'une surreprésentation des plus précaires.
Nonobstant, cette stratégie fait tâche d'huile : dans leur rapport d'octobre 2019 sur la lutte contre la fraude aux prestations sociales, @CGrandjean54 et @senateur61 écrivent que le datamining devrait être "largement renforcé" chez Pôle Emploi.
C’était donc pour ça le show Darmanin cette semaine : il préparait le bouquet final avec une interview exclusive au journal dominical d’extrême-droite.
Darmanin est le troisième ministre (après Sabrina Agresti-Roubache et Marc Fesneau) mais le premier régalien à accorder un entretien au JDD sauce Bolloré. Après avoir donné l'impression d'installer un cordon sanitaire, Macron a changé d'avis à la rentrée.
En se risquant à une spéculation mortifère, c'est intéressant politiquement : tandis que le RN réclame la démission du ministre de l'Intérieur après l'attaque d'Arras, Bolloré semble vouloir profiter du fond de l'air délétère pour en faire un présidentiable. Regardez cette photo.
🧶 Des Gilets jaunes, on a retenu la panique de l’exécutif et la violence du maintien de l’ordre. Moins la surveillance la plus intrusive, à laquelle la DGSI est devenue accro. @vincentnouzille la raconte dans une enquête sur les dérives de Beauvau.
En tout, à partir du mois de décembre, sur instruction directe de @CCastaner et malgré les réticences du renseignement territorial, 2000 personnes auraient été espionnées, alors que le pouvoir tentait de trouver les leaders de cette contestation inédite.
On ne peut pas comprendre ce changement de paradigme sans s'attarder sur la loi renseignement de 2015 (terrible année), qui a légalisé de puissants outils : logiciels espions, balises GPS, géolocalisation en temps réel, etc.
Suneris, une discrète filiale de Thales, a vendu ses technologies de surveillance au Mali, au Gabon et au Niger, régimes alliés de la France. Problème : avec les putschs dans ces pays, elles risquent de tomber entre les mains de juntes pro-russes.
Suneris est une vieille connaissance : j’avais enquêté sur leurs affaires en Égypte, où ils équipent le maréchal-dictateur Sissi, introduits sur place par Amesys/Nexa, autre société française mise en examen pour complicité de torture.
Après la décision du juge d'autoriser l'exploitation des pièces saisies chez elle, @AriaLavrilleux est plus remontée que jamais. Elle appelle à une prise de conscience collective : "Si on laisse passer, il n’y aura pas de retour en arrière possible".
"Soit on réagit maintenant, on change la loi, on renforce sérieusement la protection des sources et on réfléchit aux moyens dévoyés de la lutte antiterroriste, soit on considère que c’est la norme et on file tout droit vers un musellement de la presse."
Elle évoque aussi le silence assourdissant de l'exécutif, qui se retranche derrière la procédure judiciaire en cours. L'inversion des responsabilités est totale : qui rendra compte d'une possible complicité de crimes d'Etat ?
Un projet terroriste d'"ultragauche" sans cible ni groupe constitué : les services sont-ils en train de nous refaire le coup de Tarnac ? Grâce à des éléments obtenus par @lemondefr et @Telerama, je vous raconte la fabrique de ce nouveau fantasme.
A partir du 3 octobre, sept mis en cause - six hommes et une femme - comparaîtront devant la 16e chambre du tribunal correctionnel de Paris, poursuivis pour association de malfaiteurs terroriste : Florian D., Manuel H., Loïc M., Simon G., William D., Bastien A. et Camille B.
À l’heure où @GDarmanin vitupère contre les "écoterroristes" de Sainte-Soline, l’affaire dite du 8 décembre (la DGSI l'appelle "le dossier punks à chien"...) pose une question cruciale : où s’arrête le maintien de l’ordre et où commence l’antiterrorisme ?
"C'est fatigant de se battre pour avoir le droit de se battre". 2 ans après avoir obtenu le renouvellement de son agrément de haute lutte, @anticor_org risque à nouveau de le perdre ce vendredi. Qui veut la peau de l'association anticorruption ? 🧵
En 2021, l'affaire était dans les mains du gouvernement. Ce n'est pas le moindre des problèmes : en France, l'exécutif décide seul de qui peut le tenir responsable de ses actions en matière d'éthique publique. Résumé de l'épisode précédent :
Cette fois-ci, Anticor et ses 6500 adhérents jouent leur survie devant la justice administrative, saisie par deux anciens membres qui attaquent le décret portant renouvellement de l'agrément (capital, car il permet de porter plainte et de se constituer partie civile).