Thread by @aspide_l

Qualche giorno fa è uscita la notizia che il Ministro Università e Ricerca Maria Cristina Messa avrebbe anticipato una riforna per cui “a certificare l’abilitazione scientifica nazionale (#ASN) sarà l’#IntelligenzaArtificiale”

@mur_gov_ @Redazione_ROARS

https://twitter.com/redazione_roars/status/1542566427647004674

Tutto si baserebbe su una presentazione fatta ad un convegno in cui è stato diffusa questa scheda.

Ha creato scompiglio la frase:
“Indicatori sui requisiti a controllo automatizzato (parole chiave e IA)”

Non ci vuole un esperto per capire che detta così non vuol dire niente e un riferimento all’IA (verosimilmente improprio) di quel tenore serve solo a dare dignità e ammantare di scientificità e soprattutto di hype, una scelta come un’altra nel processo valutativo.

Quando si parla di IA e PA il dibattito (in dottrina e in giurisprudenza) oggi risolto è se una determinazione imputabile alla PA, fondata su una decisione a sua volta frutto di una elaborazione basata su algoritmi, possa qualificarsi sia come vincolata che come discrezionale.

In altre parole se il ricorso a processi automatizzati sulla base di algoritmi sia possibile nel solo caso di decisione amministrativa vincolata ovvero anche a quella discrezionale.

La giurisprudenza (ad es Cons. Stato, sez. VI, 13 aprile 2019, n. 8472) ci dice che l'algoritmo può governare anche la decisione discrezionale seppure in funzione servente all'azione del funzionario (umano).

“L'utilizzo nel procedimento amministrativo di una procedura informatica che attraverso un algoritmo conduca direttamente alla decisione finale deve ritenersi ammissibile, in via generale, nel nostro ordinamento, anche nell'attività amministrativa connotata da

ambiti di discrezionalità, a condizione che siano osservati: a) la piena conoscibilità del modulo; b) l'imputabilità della decisione all'organo titolare del potere, cui competono tutte le responsabilità correlate; c) il carattere non discriminatorio dell'algoritmo utilizzato”.

In altre parole una decisione discrezionale assunta mediante sistemi automatizzati presuppone un apporto umano a monte della decisione: l’individuazione dei parametri e il giudizio di valore non può che essere attività umana, a valle della quale vi è la decisione automatizzata.

Si pone semmai una questione di trasparenza -la conoscibilità delle caratteristiche dell’algoritmo- per poterne verificare la corrispondenza e la coerenza alla regola a monte prevista dal decisore umano.

Va poi distinta -semplificando- la decisione algoritmica semplice e quella dell’IA.
La decisione algoritmica semplice si basa su una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato

Nell’IA propriamente invece l'algoritmo contempla meccanismi di machine learning e crea un sistema che non si limita ad applicare le regole preimpostate ma elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni secondo un processo di apprendimento automatico

La criticità in questo caso consisterebbe nel fatto che ci si discosterebbe dal modello input - output, è un potenziale rischio opacità, o invisibilità, o imperscrutabilità del processo logico-deduttivo che potrebbe ledere il principio di trasparenza.
Non è necessariamente così

Tra decisione automatizzata e decisione autonoma della macchina non c’è un abisso: la “macchina” può anche parzialmente sostituire il proprio modo di “sentire” la scelta d'interesse pubblico a quello umano, ma non per questo il potere speso diventa titolarità della macchina.

Venendo alle anticipazioni del ministro e alla levata di scudi che ne è conseguita, da un lato, viene il sospetto che sia la classica tempesta in un bicchier d’acqua e che il riferimento all’IA sia del tutto improprio e messo lì per semplificazione o come già detto per puro hype

Semmai sarà rilevante la qualità e la pertinenza degli input immessi nella macchina e le caratteristiche e l’affidabilità del sistema automatizzato di valutazione. Fermo il rispetto dei tre parametri richiamati dal Consiglio di Stato nella sopra citata decisione.

Colpisce invece l’aprioristico rifiuto della tecnologia da parte dei critici quando il principale differenziale tra decisione automatizzata e umana è il circoscrivere il tasso di emotività (nelle sue accezioni positive… e spesso negative) del decisore.

Non aiuta il riferimento (emozionale) nell’articolo di ROARS citato in principio, alla vicenda del sistema di IA di Google cui l’ingegner Lemoine, che ci interloquiva, ha attribuito la caratteristica di “sentient” (si tratta di una vicenda inutilmente pompata mediaticamente).

Piuttosto vediamo se verrà pubblicato il paper accademico su se stesso scritto da un sistema di intelligenza artificiale, attualmente sotto peer review

https://twitter.com/aspide_l/status/1542855570402775042

Notavo che il sistema di IA autore del paper ha dichiarato di non versare in situazioni di conflitto di interessi.
Si vede che gli input umani sul punto vanno affinati.
A ben vedere anche per i sistemi di valutazione ASN mi preoccuperei più dell’input umano che della tecnologia

Curioso di sapere cosa ne pensano @MariuzzoAndrea e @ricpuglisi