Thread by @manhack

Alors que personne ne comprend comment fonctionnera la surveillance algorithmique des URL, la députée @PaulaForteza formule trois propositions pour pallier les problèmes posés par le « solutionnisme technologique ».
#Thread /1
Sur @nextinpact :
nextinpact.com/article/46143/…

La députée revient sur les problèmes et questions soulevés par TousAntiCovid, les drones de la police, la surveillance par Bercy des réseaux sociaux et plateformes, la reconnaissance faciale, la « surveillance sous-la-peau » & « l’informatique affective »... /2

Elle revient également sur les algorithmes (« boîtes noires ») que le PJL Renseignement veut étendre à la surveillance des URL... et au sujet desquels je continue à creuser, personne n'ayant à ce jour compris à quoi cela correspondra, et comment ils fonctionneront... /3

1. s'ils ont permis de générer 1 739 alertes en 2020, entraînant autant de levées d’anonymat, on ne connaît pas le nombre/taux de faux positifs, ni combien de « comportements suspects » identifiés par les algorithmes ont permis d'identifier d'individus « réellement suspects » /4

2. plus de 90% du trafic web est désormais chiffré, les algo ne pourront donc voir passer que les seuls noms de domaines, pas les URL (qui sont chiffrées, donc) : à quoi ça sert, comment ils vont faire, pourquoi parler d'URL alors que leur surveillance est impossible ? /5

3. « les flux de données ne sont pas analysés au moyen d’algorithmes installés sur les réseaux des opérateurs mais dupliqués puis acheminés au sein d’une infrastructure dépendant de l’État pour être soumis à des dispositifs de détection centralisés ». /6

https://twitter.com/amaelle_g/status/1397978402351730689

3bis. 3 algorithmes ont été autorisés par la CNCTR et mis en oeuvre par le GIC, mais cela signifie donc qu'ils peuvent être utilisés pour analyser les flux émanant de tout ou partie des opérateurs de téléphonie, et non comme 3 « boîtes noires » déployées chez 3 opérateurs... /7

3ter. le système de surveillance de l'Internet mis en place par la DGSE a coûté 500M€ d'investissements, et entraîner le recrutement de 800 ingénieurs, pour surveiller une 20aine de câbles sous-marins, goulets d'étranglement facilitant considérablement la duplication des flux /8

3ter/bis. l'étude d'impact précise que le coût d’adaptation de l’architecture technique des algorithmes mis en oeuvre par la DGSI est évalué à 20 M€ + 4 M€ annuels pour leur maintien en condition opérationnelle, + le recrutement de 25 équivalent temps plein /9

3ter/ter. or, le maillage de l'infrastructure Internet en France est décentralisé, et personne ne sait où le GIC pourrait dupliquer les flux Internet pour placer tout ou partie de nos méta-données sous surveillance, au vu des milliers de points de présence (PoP) et de transit /10

La @CNIL, rappelle @PaulaForteza, déplore à ce titre dans ses 3 délibérations sur le PJL le manque d’informations permettant de comprendre de quoi il en retourne, et recommande en outre une évaluation plus approfondie, avant que de prévoir leur généralisation /11

La députée propose de rajouter au « droit d'accès » un « devoir de transparence » :
« Les Estoniens peuvent savoir en temps réel quelle administration utilise leurs données personnelles, déposer un recours pour comprendre quel a été le motif de traitement de ses données » /12

Elle appelle à s'inspirer du parlement chilien, qui a récemment décidé de légiférer sur la protection des « neuro-droits » afin que les données cérébrales des personnes soient traitées « avec une confidentialité comparable à celle des greffes d’organes » /13

Elle propose qu’« une convention citoyenne sur les enjeux éthiques du numérique puisse voir le jour, à la manière de celle sur le climat » afin de rédiger une Charte constitutionnelle du numérique qui contiendrait les grands principes liés aux droits et libertés numériques /14

tl;dr : une réflexion stimulante... même si l'on peine donc toujours à comprendre à quoi pourrait bien correspondre l'extension aux URL de la surveillance algorithmique, cf aussi ma précédente analyse/hypothèse, elle aussi à lire sur @nextinpact : /15
nextinpact.com/article/45669/…