Thread by @Malthe_MMM

Så kom lovforslaget om regler for kunstig intelligens, AI, endelig.

Med vores egen Vestager - der har ansvar for konkurrencepolitik og det digitale - selvfølgelig i spidsen ved lanceringen
#eudk #dkpol #dkdigital lidt om indhold -> 1/x

https://twitter.com/vestager/status/1384814098127462401

Det helt centrale er forbud mod bestemte AI praksisser!
Derved er tanken også at skabe en europæisk tilgang, som modsvar på en dystopisk kinesisk og en ureguleret amerikansk

ec.europa.eu/newsroom/dae/d…
2/

Man forbyder AI der manipulerer mennesker bl.a. med sublineære teknikker, og social score som man kender det i Kina, og biometriske identifikationssystemer i det offentlige rum undtagen - og det vil blive omdiskuteret - nogle bestemte anerkendelsesværdige formål

3/x

Og så definerer man "high-risk AI". Dem vil der så gælde en hel del nye regler for
Så forvent et lobbybattle hvor man prøver at argumentere for, ens AI'er ikke falder ind under det!
4/x

Bl.a. vil der for high-risk AI gælde:
*A risk management system shall be established
capabilities enabling the automatic recording of events (‘logs’) while ... operating.
*Sufficiently transparent to enable users to interpret the system’s output and use it appropriately
5/x

*krav om human oversight
I det hele taget ret tydeligt man gerne vil undgå, AI bare udvikler sig som den nu gør, uden nogle aner eller har ansvar for, hvorfor den kommer frem til det, den gør...
6/x

Det tænker jeg flugter med mange af bekymringerne, fx en HR AI der udvælger kandidater - risiko for den opdager den får højere succesrate ift at predikere hvem der får tilbudt kontrakt/succes på job ved at prioritere hvide etc. (dvs. reproducerer/skaber bias) osv. etc.
7/x

Så er der også nogle forpligtelser til at holde bl.a. myndighederne adviseret om hvad der foregår og stille informationer til rådighed mv.
Det offentlige skal på banen med en myndighed, der har overblik etc.

8/x

I det hele taget bliver det centralt med conformity assessment af high-risk AI. Myndighederne skal have hånd i hanke med det, må være idéen!
9/x

Også interessant at der kommer et krav om, at folk får at vide, det er en AI, de har med at gøre!
10/x

Det med regulatoriske sandkasser er kommet meget på mode, og det åbner den nye lovgivning også for kan gøres på AI-området.

Skal ikke lige kunne sige om det er relevant i Danmark.

11/x

Klassisk at der selvfølgelig skal laves et nyt europæisk organ, som skal følge udviklingen og rådgive Kommissionen.

12/x

... og en fælles EU-database over alle high-risk AI'er i EU...
13/x

Det hele bakkes op af heftige bøder, hvis en virksomhed ikke følger reglerne!

Afhængig af omstændighederne potentielt helt op til 6 % af årlig global omsætning!
14/x

Beskrivelse fra Financial Times: især ansigtsgenkendelsesteknologi (som altså generelt forbydes på offentlige steder som nævnt, men med nogle undtagelser for særligt anerkendelsesværdige formål) meget omdiskuteret ft.com/content/6cba5f…
15/x

...og så er der spørgsmålet om hvordan det stiller EU i en global konkurrence, hvor AI stadigt vigtigere i erhvervslivet og den off. sektor, og hvor USA og Kina i forvejen er langt fremme.
Og så er det et lovforslag - Europa-parlamentet og landene vil sikkert lave noget om!
/16x

Politico udpeger disse 6 key battles om AI-reglerne
Jeg ved ikke helt med de tre sidste, men helt klart 1) præcis hvad forbydes 2) præcis hvad er high-risk AI 3) præcis hvordan og hvordan lave conformity assessments/hvordan kontrollere high-risk AI
politico.eu/article/6-key-…
17/x

Dansk vinkel er, vi Danmark sidste år var primus motor på et non-paper, der beskrev hvad vi vil for AI - mere flexible selvregulering (vs. Tyskland, der altid er meget på privacy nok pga stasi fortid etc.) em.dk/media/13914/no…
18/x