Thread by @AlexArchambault

L'enfers est pavé de bonnes intentions : un projet de la Commission ambitionne d'imposer aux intermédiaires techniques (hébergeurs & fournisseurs) de scanner ce qui relevait jusqu'à présent de la correspondance privée pour lutter contre l'exploitation sexuelle des mineurs ⬇️

https://twitter.com/MathieuPollet_/status/1524051632048295936

Sur un sujet aux implications techniques majeures (car en corollaire une demande d'affaiblissement du chiffrement), la moindre des choses serait d'avoir un débat éclairé au niveau parlementaire. A date le secret des correspondances est constitutionnellement garanti ⬇️

Et c'est loin d'être anodin, car figure toi Twitter que l'interdiction pour l'opérateur de messagerie (à l'époque postale, mais étendu par la suite au télégraphe, puis téléphone, télex, minitel, Internet…) de connaitre du contenu de ce qu'il achemine date de la Révolution.

Du coup, l'initiative d'Apple (sur qui étaient tombés tous ceux qui ne regardent que le doigt alors que c'est la Lune qui était désignée) est à replacer dans ce contexte : comment traiter une problématique légitime sans renier nos droits les + élémentaires
apple.com/child-safety/p…

En attendant, comme toujours, le texte trainait sur une plage arrière de berline quand passait @reesmarc. #Courge & #Soutine à lui (et envoyez des mandarines, beaucoup).
⬇️

https://twitter.com/reesmarc/status/1524070722494210049

Et propositions officialisées ici.
Sur le papier, qui pourrait être contre : on va lutter contre l'exploitation sexuelle des mineurs
Or en pratique, c'est une boite de pandore qui s'ouvre, comme l'expérience du blocage (petit à petit étendu) l'a montré
ec.europa.eu/home-affairs/p…

Les promoteurs d'une telle mesure vous expliqueront que les méchantes plateformes qui exploitent déjà vos données personnelles scannent déjà vos messages. Oui, c'est le cas, mais uniquement l'empreinte technique, et nullement sur la base de l'analyse fine du contenu

Et comme c'est une analyse basée sur l'empreinte technique (on regarde à quoi ressemble l'enveloppe), cela explique pourquoi vous avez des messages légitimes qui se retrouvent dans la boite SPAM. C'est le prix à payer pour préserver le secret des correspondances.

Dans le dispositif poussé par cette proposition , on ne se contente plus de regarder l'enveloppe, mais non seulement on va l'ouvrir, et si le contenu est chiffré, en demandant au prestataire de le déchiffrer. Un changement de paradigme lourd de conséquencesec.europa.eu/home-affairs/d…

Car face aux attaques sur le chiffrement (petit rappel, affaiblir le chiffrement pour les méchants, c'est surtout affaiblir la protection des gentils, des entreprises et des administrations), les prestataires ont alors basé leurs services de communications sur le chiffrement E2E

Avec le chiffrement E2E, la clé de (dé)chiffrement n'est plus connue du prestataire, mais des seuls utilisateurs finals (oui, en économie & droit des réseaux, on dit utilisateurs finals). On renforce donc la protection des utilisateurs finals face aux méchants

Dès lors, demander à WhatsApp / Signal / Apple / Google / Twitter / Instagram & co de déplomber un message chiffré est aussi efficace que de demander à un banquier d'ouvrir un coffre fort dont la combinaison n'est connue que des seuls clients autorisés à y accéder

Rappelons par ailleurs qu'Internet (réseau & services) repose sur des technologies, normes et protocoles OpenSource, dont la gouvernance s'effectue au niveau mondial par la culture du consensus (et pas vraiment par des injonctions comminatoires adoptées sans débat fourni)

Bref, c'est tout le drame 🇪🇺 sur la technologie et autres industries stratégiques d'avenir : sans disposer de fournisseurs & acteurs locaux qui sont de nature à influer sur les standards, elle reste incapable de comprendre ce qu'elle demande sur le plan technologique. /o\

Du coup, on se retrouve souvent à vouloir coller dans la roue de ce qui peut se tramer ailleurs. Car en la matière cette proposition #CSAM n'est autre que la transposition à l'échelle 🇪🇺 de ce que d'autres essayent d'obtenir à l'échelle 🇺🇸
congress.gov/bill/117th-con…

Sauf que ce n'est pas parce que c'est en discussion aux 🇺🇸 qu'il faut en déduire que c'est forcément transposable à l'échelle 🇪🇺 et encore plus à l'échelle nationale. Les cadres en matière de libertés publiques n'ont rien à voir.

Déjà, on rappellera que les droits accordés aux citoyens 🇺🇸 visent à le protéger de l'arbitraire de l'Etat. Ils sont donc difficilement opposables à des acteurs privés (cf. rejet de la plainte de Trump pour bannissement de Twitter)

Enfin, on précisera que tout le droit, tant 🇪🇺 que 🇫🇷, proscrit depuis + 20 ans toute obligation générale pour les intermédiaires techniques de se livrer à des activités de surveillance de ce que peuvent dire et s'échanger leurs utilisateurs

Et que dès lors commencer à regarder le *contenu* et ne plus s'en tenir à la seule tronche du *contenant*, cela s'appelle porter atteinte au secret des correspondances. Un principe qui, en 🇫🇷, date de la Révolution. Et sans cesse réaffirmé au fil du progrès technologique.

Mais attention, même constitutionnellement garantie, une liberté ne sera jamais absolue. Parce que son exercice peut entrer en conflit avec d'autres libertés, et dès lors le législateur est fondé à concilier tout ce petit monde. Mais pas n'importe comment à n'importe quel prix

Dit autrement, le Législateur peut tout à fait autoriser par la loi qu'il soit porté atteinte au secret des correspondances, mais uniquement si c'est (i) nécessaire (ii) proportionné et (iii) assorti de solides garanties

Et quand on lit les décisions du C. Const. (qui sur la prise en compte de l'impact du numérique sur la vie privée à opéré un revirement d'ampleur depuis 2015) ainsi que la jurisprudence désormais fournie au niveau 🇪🇺on constate que peu de propositions respectent ces 3 conditions

Et une analyse critique de ces dispositions qui reviennent, au nom d'une lutte légitime, à modifier profondément le mode d'exploitation des réseaux & services, en renonçant de facto au secret des correspondances ⬇️

https://twitter.com/CenDemTech/status/1524407870099501059

Pour les opérateurs, cela implique donc de regarder dans les couches hautes des protocoles Internet, qui pourtant ne sont pas pertinentes pour eux pour l'acheminement d'une communication. @ARCEP, je sais que c'est la saison de la piscine, mais cela serait bien de t'entendre

@Arcep Et pour atteindre les objectifs assignés par les promoteurs du projet #CSAM, cela va impliquer d'affaiblir le chiffrement (vu que désormais l'écrasante majorité du trafic Internet est chiffré, un FAI ne voit au mieux que le domaine, et nullement l'URL)

Car voyez vous, ce qui est dramatique avec Internet (et donc la perception qu'en ont les décideurs publics), ce qui apparait hyper simple voire magique (je tape et paf mon FAI me permet de voir illico @dombrance) en fait horriblement compliqué

Car non, votre FAI ne voit pas l'URL (l'adresse précise du contenu, si on pouvait prendre analogie, c'est la pièce dans laquelle vous vous situez dans votre appartement. Il ne voit au mieux que l'adresse postale). Il ne voit ici, dans l'exemple donné, que youtube.be

Le système envisagé par les promoteurs du projet #CSAM au niveau 🇪🇺revient à imposer de traiter & conserver des données qui (i) ne sont pas nécessaires pour l'acheminent par les FAIs d'une communication (ii) sont encore + attentatoires à la vie privée que les données de connexion

Traitement et conservation des URL qui de toutes façons sont interdites par la Loi en 🇫🇷 dans la mesure où il ne s'agit pas d'une donnée technique (que celles et ceux qui en doutent viennent passer quelques heures dans un vrai réseau de la vraie vie) pour l'acheminement

Ca c'est pour les FAI. Sachant que la technologie étant neutre, une fois que c'est mis en place pour une problématique dont une nouvelle fois personne ne remet en question la légitimité, l'expérience a montré que cela finissait toujours par être étendu à d'autres domaines.

C'est ainsi que le blocage des contenus par les FAIs (en pratique le blocage au mieux du FQDN - en très gros le serveur -, donc pas vraiment l'URL), initialement strictement cantonné aux serveurs abritant du pédo a été étendu à aujourd'hui un large spectre

Petit aparté sur FQDN : le FQDN, c'est ce qui permet d'identifier un serveur (au sens DNS hein, pas au sens réel car le retour DNS peut être un frontal qui renvoie ensuite sur d'autres serveurs). Ca permet de bloquer ainsi mais pas mechant.youtu.be
gentil.youtu.be

Du coup les décideurs publics en déduisent que c'est possible de faire du chirurgical pour du blocage. Sauf que non, le FQDN n'est pas de l'URL, et le blocage FQDN reste du blocage DNS, et rien d'autre.

Bref, initialement cantonné aux serveurs abritant du contenu pédo, le blocage (le plus souvent sans juge au passage, malgré les réserves d'interprétations du C . Const) a été étendu à l'apologie du terrorisme, au jeux en ligne non autorisés, à la contrefraçon & contenus sportifs

Mais également aux problématiques relevant de la protection des consommateurs, malgré les réticences solidement étayées de certaines parlementaires dont on se demande si le droit aurait pu mieux tourner si le destin, cruel, n'en avait pas décidé autrement

https://twitter.com/AlexArchambault/status/121277616752828416

Et comme a permis de le mettre en évidence ceci , il est toujours délicat de confier à un machin administratif dont la transparence et le respect du contradictoire ne sont pas les principales préoccupations la qualification d'un contenu pas bien…gy-pontoise.tribunal-administratif.fr/content/downlo…

Et c'est loin d'être un cas d'école, car les algos qui seront mis en oeuvre ne savent nullement tenir compte du contexte. C'est ainsi que Wikipedia a été bloquée dans le passé au 🇬🇧 pour une pochette d'un album (Virgin Killer) du groupe Scorpions
liberation.fr/ecrans/2008/12…

Au niveau des hébergeurs, c'est également loin d'être aussi évident qu'en sont auto-persuadés les promoteurs du projet qui là-aussi en sont restés à l'image d'Epinal de l'hébergeur qui a la main sur les serveurs Web : en 1995, certainement, mais ce n'est plus le cas depuis 20 ans

Car sauf lorsqu'il s'agit d'un hébergement mutualisé (de type ), ce qui existe toujours mais à un niveau ultra-minoritaire, un hébergeur *n'a pas* la main sur le fonctionnement d'un serveur webmygale.org/~jeankevindu33

Tout ce qu'il peut faire (cher Confrère qui fait des grands moulinets avec les bras pour exiger qu'on retire une URL prends en de la graine, et si tu en doutes, paye toi une immersion chez un hébergeur, ce n'est pas ce qui manque), c'est éteindre le serveur. Ou faire du #http451

Car outre le fait qu'il engagerait sa responsabilité contractuelle envers son client en allant triturer à sa place la configuration du démon WWW (oui, c'est le petit nom des processus Unix, donc Internet), il engage aussi, et lourdement, sa responsabilité pénale ⬇️

Voilà pourquoi en dehors des cas manifestement illicites, seule l'intervention d'un juge permet de qualifier un contenu litigieux et ordonner les mesures qui s'imposent (avec à la clé un bel effet Streisand en cas de demande non fondée)
doctrine.fr/d/TJ/Lyon/2021…

En parlant de juge, le juge 🇪🇺 a annoncé la couleur sur tout dispositif d'analyse automatisée des données de connexion, pourtant moins attentatoires pour la vie privée que l'analyse des contenus des correspondances.
curia.europa.eu/juris/document…

Ce n'est pas parce que des crimes (car c'est de cela dont il s'agit) sont particulièrement odieux que cela relève pour autant d'une atteinte à la sécurité nationale justifiant qu'on renonce à plus de 2 siècles de respect du secret des correspondances.

Car une fois que le secret des correspondances tombe, il tombe pour tout le monde. Et l'étape d'après, c'est quoi, la fin de l'inviolabilité du domicile ?

Le fait que des gens fassent des choses très graves chez eux ne justifie pas pour autant qu'on puisse défoncer leur porte sans une procédure particulière. Et encore moins de placer des mouchards chez tout le monde parce qu'une infime minorité fait des choses très graves.

Or ce secret des correspondances, ce droit au chiffrement, c'est surtout une garantie pour l'exercice des droits et libertés. C'est ce qui permet à des minorités de pouvoir alerter en sécurité sur les discriminations, des salariés sur des dysfonctionnements dans l'entreprise…

C'est aussi ce qui permet à des victimes, comme des mineurs, de pouvoir se confier librement sans éveiller les soupçons de leurs tortionnaires.
Car une fois que vous affaiblissez le chiffrement pour les méchants, vous privez surtout de sécurité les gentils

Car une fois que le truc est mis en oeuvre, la technologie étant neutre, il finira *forcément* par être étendu (au nom du mirage de l'action préventive à tout prix) à d'autres délits moins odieux. Etes-vous prêts à cela ?

Car qui parmi vous, confronté à un conflit au travail, n'a pas écrit dans un mouvement de colère à son délégué syndical sous le sceau de la confidentialité "lui (ie le très méchant boss) je vais le fumer" avant d'être ramené à la raison par ledit délégué ?

Demain, avec l'extension des algos, vous pourrez vous retrouver en garde à vue pour un simple mouvement d'humeur exprimé sur ce qui auparavant était protégé par le secret des correspondances. D'autres y ont déjà eu droit, sur la base de simple tweets

https://twitter.com/AlexArchambault/status/1491079223318319106

Et en attendant, le projet #CSAM en question de la Commission (pour lequel, rappelons-le, les intermédiaires techniques n'ont nullement été consultés) fait l'objet de critiques sévères de la part de l'EEF, excusez du peu.

https://twitter.com/EFF/status/1525827589528502272

Et tout un chacun peut apporter son avis, dès lors qu'il est exprimé avec mesure et étayé par des éléments concrets, sur ce projet #CSAM consistant à scanner vos correspondances privées afin de lutter contre l'exploitation sexuelle des mineurs ⬇️
ec.europa.eu/info/law/bette…

Et comme à son habitude, @reesmarc se livre à une excellente analyse du projet #CSAM de la Commission, un chef d'oeuvre de législation goupillée sans consultation du secteur et apportant une très inquiétante réponse à une très bonne question #MustRead ⬇️
nextinpact.com/article/69806/…

@reesmarc Pourquoi très inquiétante ? Au nom d'un objectif parfaitement légitime (qui serait contre la lutte contre l'exploitation sexuelle des mineurs ?), on en vient à poser les bases d'une analyse algorithmique de *toute* votre vie numérique, sans recours effectif possible.

Car l'économie générale de ce texte, qui n'a nullement fait l'objet d'une étude d'impact fournissant notamment des éléments de volumétrie afin de pouvoir en estimer la proportionnalité, repose sur une constante : le culte du solutionnisme technologique, du secret, shunter le juge

Et la techno, pour l'instant, elle ne sait faire qu'un truc : allumer de gros warnings sans prendre en compte le contexte. Rigolez de la modération de Twitter, en attendant, voici ce que donne l'analyse des mails : des faux positifs en pagaille ⬇️

https://twitter.com/evanderburg/status/1561280480988774400

Les flux de données sur mail / IM sont tels (sans oublier le SPAM, pratiquement 95% du trafic, bref, un excellent moyen pour DDoSSer le truc en glissant des empreintes qui vont affoler les algos) que c'est illusoire de vouloir croire qu'une vérification humaine est possible

Et pourquoi *toute* votre activité numérique est concernée? Car une fois que le truc est mis en oeuvre, la technologie étant neutre, il finira *forcément* par être étendu (au nom du mirage de l'action préventive à tout prix) à d'autres délits moins odieux. Etes-vous prêts à cela?

Comme nous l'a appris l'expérience du blocage (à l'origine strictement cantonné à l'exploitation sexuelle des mineurs, puis terro, puis jeux en ligne, puis contrefaçon, puis pornographie, puis…), une techno finit toujours par voir son périmètre étendu à d'autres finalités.

Et comme nous le rappelle l'excellent papier de @manhack dans @nextinpact, la mise en oeuvre d'un tel projet risque surtout de se retourner contre les ados eux-mêmes, friands de sextos & autres nudes (on peut le déplorer, mais c'est une réalité)
nextinpact.com/article/69833/…

Oui, c'est une réalité documentée : 2/3 des contenus en ligne mettant en scène des mineurs sont le fait de… mineurs. Une explosion du phénomène, de + en + jeune (en ayant à l'esprit qu'une part significative découle de sextorsion)

https://twitter.com/AlexArchambault/status/1518935073399226370

Et au tour de l'@euroispa (l'instance réunissant les FAIs 🇪🇺, bref, les gens qui font tourner un truc stratégique pour la souveraineté) de partager ses craintes sur les effets de bords d'une très mauvaise réponse à une très bonne question #CSAM ⬇️

https://twitter.com/Alex_sed_lex/status/1569271573659484163

Et confirmation en 🇫🇷 de ce qui a été observé dans d'autres pays : une part significative des contenus porno mettant en scène des mineurs est le fait… des mineurs eux-même (en ayant à l'esprit que cela peut être souvent sous la contrainte)
pointdecontact.net/wp-content/upl…

Et une nouvelle analyse particulièrement critique, venant d'un Gus qui est tout sauf le perdreau de l'année, sur le projet de la Commission 🇪🇺 visant à scanner l'ensemble du trafic Internet et correspondance privée #ChatControl #CSAM ⬇️

https://twitter.com/matthew_d_green/status/1634252397919739921

Ainsi que le Contrôleur Européen de la Protection des Données. Notons également un problème de méthode : toute la discussion s'effectue à huis-clos #ChatControl #CSAM
euractiv.fr/section/econom…

Et @ContexteNum nous apprend que 🇩🇪 a exprimé de profondes réserves sur les modalités de mise en oeuvre du dispositif #CSAM, notamment sur le silence imposé aux intermédiaires techniques. #ChatControl

https://twitter.com/Gnppn/status/1638459749153792000

Et @nextinpact a mis la main sur l'analyse pour le moins très critique du très influent service juridique du Conseil de l'UE qui estime que dans son état actuel le projet #CSAM sera très probablement jugé illégal par les instances de l'Union
nextinpact.com/article/71639/…

Comme le rappelle la Présidente de Signal sur les dangers de l'affaiblissement de la sécurité portés par les projets de type #CSAM : introduire une porte dérobée pour les gentils enquêteurs, c'est ouvrir un boulevard pour les méchants criminels

https://twitter.com/Channel4News/status/1675922360237694978

Pratiquement tout ce que le monde compte d'experts indépendants et chercheurs en sécurité se montre particulièrement critique sur les projets 🇬🇧 & 🇪🇺 #CSAM d'affaiblissement du #chiffrement pour être en mesure de scanner l'ensemble des échanges privés ⬇️

https://twitter.com/wcathcart/status/1676648991273136128

De son côté, sur la base des retours (pour le moins très critiques) de la communauté scientifique, Apple vient de renoncer à son projet #CSAM.

https://twitter.com/WIRED/status/1698440785719353654

Rappelons que + de 400 scientifiques à l'expertise reconnue alertent depuis plusieurs mois les différentes autorités publiques sur les risques pour tous d'une approche consistant à affaiblir le chiffrement pour une finalité on ne peut + légitime #CSAM
docs.google.com/document/d/13A…

Derrière les discussions dans l'ombre pour passer outre les réserves formulées par experts et communauté scientifique sur le projet de règlement 🇪🇺 qui obligerait les messageries à scanner les messages privés, le lobbying intense de Thorn, entreprise🇺🇸
lemonde.fr/les-decodeurs/…

Les discussions sur ce très controversé règlement #CSAM devenu #CSAR sont un tel modèle de transparence qu'une enquête a été ouverte sur de possibles manquements de la Commission.
Remarquable enquête publiée dans @BalkanInsight
balkaninsight.com/2023/09/25/who…

Et pendant ce temps, le parlement 🇨🇭, un modèle du genre en matière de fonctionnement démocratique car tout sauf godillot, vient de voter une motion s'opposant au projet très controversé de règlement 🇪🇺 de scanner les messages privés.
parlament.ch/fr/ratsbetrieb…

Et donc pour promouvoir son (très controversé et opaque) projet d'analyse des communications privées #CSAR, la Commission semble avoir pris quelques libertés avec ses propres textes interdisant toute publicité ciblée. #ChatControl
nextinpact.com/article/72666/…

Et @echo_pbreyer nous apprend que la mobilisation contre le très controversé projet #ChatControl de scan de l'ensemble des correspondances a payé : le vote est reporté, et les promoteurs du projet sont invités à faire preuve de + grande transparence #CSAR
patrick-breyer.de/en/chat-contro…

Et au tour du Contrôleur 🇪🇺 de la Protection des Données de faire part de ses profondes réserves, compte tenu des graves conséquences, sur le projet #CSAM de la Commission de renoncer à un principe pluriséculaire de secret des correspondances privées #CSAR
edps.europa.eu/system/files/2…

Et @manhack dans @nextinpact nous apprend que le Parlement européen a adopté un compromis sur le projet #CSAM / #CSAR en supprimant la surveillance proactive des messageries, afin de préserver le chiffrement sécurisé. #ChatControl
nextinpact.com/article/72771/…

Et toujours dans @nextinpact, @manhack revient sur les méthodes pour le moins discutables de la Commissaire en charge de ce projet #CSAM #CSAR #ChatControl, puisque des libertés semblent avoir été prises avec les propres règles du #DSA & #RGPD
nextinpact.com/article/72777/…

Et l'euro-député @echo_pbreyer nous apprend que la mobilisation a payé : le Parlement 🇪🇺 compte cantonner le très controversé projet #CSAR de la Commission à la seule surveillance ciblée, excluant tout scan généralisé et indifférencié #ChatControl
patrick-breyer.de/en/historic-ag…

Et en coulisses les discussions continuent pour imposer, en dehors de tout débat public sur la base d'une vraie étude d'impact, le scan de chaque message privé.
Avec un compromis biaisé : libre de refuser, mais vous ne pourrez plus envoyer #ChatControl

https://x.com/echo_pbreyer/status/1793307378617586130

Et la Présidente de Signal (à qui on a déroulé le tapis rouge pour #Vivatech) annonce la couleur : ce projet #ChatControl est tellement dangereux qu'il contraindra Signal à abandonner le marché 🇪🇺.

https://x.com/mer__edith/status/1793970034257318335