L'histoire de Thomas Le Bonniec est celle d'un film d'espionnage sans intrigue. Pendant des mois, dans un open space irlandais, il a écouté des milliers d'enregistrements Siri, afin d'entraîner l'IA d'Apple. Jusqu'à la transcription de trop. Cette semaine dans @Telerama.
Avril 2019 : recruté comme un agent secret par GlobeTech, un sous-traitant qui impose à ses salariés de taire leur activité, il écoute jusqu'à 1300 itérations par jour. Entend des conseils de classe, le bruit d'une poche, un diagnostic de sclérose en plaques, un pédophile.
"Je n'ai rien à cacher, ma vie est insignifiante", lui confie une collègue chargée d'épier d'autres vies insignifiantes. Celles-ci sont classées par appareil et par trimestre. "100 millions d'enregistrements par an", estime Le Bonniec. "Et c'est une moyenne basse".
Quand il craque à retardement ("ce boulot rend tellement mou"), une hotline téléphonique vient s'assurer qu'il n'est pas suicidaire. Il prend la tangente, "furieux contre lui-même de s'être retrouvé dans une situation pareille". Et avertit la presse anglo-saxonne.
GlobeTech licencie 300 salariés. En réalité, ils sont mis au chômage technique pendant six semaines, le temps pour Apple de dépêcher une équipe californienne afin de relancer la machine. Aujourd'hui, les affaires ont repris. Combien y a-t-il de petites oreilles ? Secret défense.
En mai 2020, Le Bonniec sort de l'anonymat, en s'adressant par courrier aux agences de protection des données européennes. La CNIL irlandaise accuse réception, sans plus. "Un port sûr pour les navires", dit la devise de Cork. Ca vaut pour les supertankers de la Silicon Valley.
Son histoire, c'est celle d'un lanceur d'alerte. Et d'un modèle économique fondé - très littéralement ici - sur la prédation de l'intimité. A l'heure des assistants vocaux, Amazon, Google, Microsoft ou Facebook se livrent aux mêmes pratiques.
C'est aussi la chronique d'une main d'oeuvre invisible. Comme l'explique la sociologue @ubiquity75, "le burn-out est le modèle économique de ce travail", qui abime physiquement et psychologiquement celles et ceux à qui on le confie : alcoolisme, désocialisation, PTSD...
Bref, ce scénario aux relents ballardiens est à lire dans le magazine de cette semaine. Merci à @askolovitchC d'en avoir parlé dans la revue de presse d'Inter ce matin. 🙃
p.s. : vous êtes ou avez été l'une de ces "petites oreilles" ? Mes DM sont ouverts, et mes coordonnées sont dans ma bio.
Mon article sur Thomas Le Bonniec, le lanceur d’alerte de Siri qui écoutait la vie des autres dans un bureau de Cork, est désormais disponible en ligne.
[Petit thread] On m'interroge souvent sur la porosité entre la dictature technologique chinoise et les expérimentations hasardeuses des démocraties libérales occidentales. Ma réponse : la cloison est plus fine que ce qu'on imagine. Exemple avec Dahua. 👇
Domiciliée à Hanghzou, vitrine de la ville du futur à la chinoise, l'entreprise est un des leaders nationaux de la vidéosurveillance. Dans un pays qui abritera bientôt la moitié du milliard de caméras de la planète, ça offre quelques perspectives.
Ce chiffre vertigineux permet de comprendre une chose : à l'heure de l'automatisation croissante de ces caméras, les fabricants chinois ont un avantage concurrentiel incroyable, garanti par 1) leur assise économique 2) l'Etat, qui a fait de l'IA un secteur stratégique.
Au Beauvau de la sécurité, Christian Rodriguez, le directeur général de la gendarmerie, évoque "un algorithme de prédictibilité, progressivement étendu des cambriolages aux autres crimes et délits. Aux 🇺🇸, PredPol, le logiciel utilisé par la police, est 1) dangereux 2) un échec.
PredPol est tellement contesté que Santa Cruz, la ville californienne, qui abrite le siège social de l'entreprise, a interdit en juin dernier cette technologie. Elle réplique et amplifie les discriminations.
Et un rappel utile : la rustine juridique arrive bientôt, puisque la #PPLSécuritéGlobale permet une utilisation massive (et floue) des drones par la police.
Didier Lallement vs le Conseil d'Etat, huile sur toile, 2020
Hier, en Conseil des ministres, Jean Castex a présenté un projet de loi pérennisant l'état d'urgence sanitaire. Il subordonnerait l'accès à certains lieux à un dépistage ou un vaccin, et permettrait de déroger au secret médical en créant des fichiers.
Avis du @Conseil_Etat : "Certaines de ces décisions sont susceptibles d’avoir des effets significatifs sur l’exercice des droits et libertés constitutionnels."
Le texte ne précise pas la date de péremption des traitements de données personnelles (notamment les fichiers SI-DEP et Contact-COVID, clés de voûte de la stratégie 🇫🇷). Aussi le @Conseil_Etat réclame-t-il un décret dans un délai de 6 mois à compter de la publication de la loi.
On a donc un ministre de la Justice, avocat pénaliste, qui veut abattre un totem républicain vieux de 140 ans pour empêcher @T_Bouhafs, @GaspardGlanz et beaucoup d'autres journalistes indépendants de faire leur boulot.
Quelques précisions ici : il s'agirait de permettre les comparutions immédiates pour "les discours en rupture avec les valeurs de la République". En protégeant les journalistes, soit, mais lesquels ?
Public Sénat a modifié la citation du Garde des Sceaux : il s'agit désormais d'exclure ceux qui viennent "se lover [dans la loi de 1881] pour diffuser la haine en ligne et bénéficier des protections qui sont dues aux journalistes et aux organes de presse".
Je vais tendre une perche aux conspirationnistes de tout poil, mais tant pis : George Soros vient d'investir 175M$ dans Palantir, dont l'action a augmenté de 50% depuis l'élection américaine. 🔮
A ceux qui s'étonnent de ma formulation prophylactique, une clarification sémantique : on peut évidemment forger une théorie du pouvoir comme complot, je connais même un activiste de l'information qui en a fait sa boussole. Un certain Julian Assange.
Précisions du fonds d'investissement de Soros : ses parts dans Palantir (une entreprise dont il "n'approuve pas les pratiques") datent de 2012 ; elles sont devenues des actions quand l'entreprise est entrée en bourse. CNN a modifié son article.