Thread by @mbompard

Hier la Commission @EP_Environment votait un avis portant sur le Cadre éthique de l’intelligence artificielle, de la robotique et des technologies complexes.

Plusieurs de mes amendements sont passés et ont été intégrés dans le texte final.

Petit debrief ⤵️⤵️⤵️

1/ Au cœur de ces questions se trouvent les données. La Commission #ENVI étant compétente sur les questions de santé, j’ai déposé un amendement sur la protection des données de santé et l’interdiction pour les assurances de les acquérir et de s’en servir pour discriminer.

2/ J’ai également déposé plusieurs amendements concernant les robots compagnons, les robots de soin, et leur notamment utilisation à destination des personnes âgées. Pour respecter la dignité humaine ces robots doivent être conçus de manière éthique.

3/ Aspect assez sinistre du développement de la robotique, j’ai tenu à alerter sur l’utilisation de robots conçus pour être abusés sexuellement, notamment à des fins pédophiles. Il faut empêcher la reproduction de la culture de violence sexuelle à travers ces technologies.

4/ De manière générale il nous faut intégrer l’ensemble de nos questions éthiques dans la conception des algorithmes qui sont au cœur de ces technologies et de leur prise de décision. C’est absolument indispensable pour garantir le respect de la dignité humaine et animale.

5/ Dans les amendements de compromis je suis également parvenu à mettre en avant le principe d’autonomie supervisée des robots ; il est essentiel qu’un opérateur humain, par exemple un médecin, soit toujours capable d’intervenir et soit celui qui prenne la décision !

6/ Les algorithmes prennent des décisions à partir des données qu’ils agrègent mais pour éviter l’arbitraire, il est essentiel que les destinataires de cette décision disposent d’un droit à l’explication pour comprendre et analyser les choix de l’algorithme.

7/ Cette question du droit à l’explication est très importante pour les travailleurs et salariés dépendants de décisions prises par des algorithmes. De manière plus générale j’ai exigé que ces derniers soient conçus d’une manière respectueuse du bien-être des travailleurs.

8/ Enfin, après le fiasco d’applications comme #StopCovid, et les tentations de renforcer la surveillance généralisée et le contrôle disciplinaire au nom de la santé publique, j’ai alerté sur les problèmes soulevés par ces applications technologiques sur nos droits et libertés.