Thread by @magicaGrmente22

#IA

Intelligenza artificiale con effetti collaterali pericolosi per la vita

Il dibattito sull'IA oscilla tra speranza e paura. La simulazione dell'aeronautica americana potrebbe sollevare preoccupazioni. Perché l'esperimento solleva seri interrogativi.

L'#intelligenzaartificiale minaccia 300 milioni di posti di lavoro in tutto il mondo.

L'intelligenza artificiale sta rendendo i traduttori sempre più superflui, può prevedere gli attacchi di cuore meglio degli umani , fa risparmiare molte ore di lavoro agli avvocati durante la

revisione dei contratti, può scrivere articoli e libri, comporre musica, dipingere quadri premiati , sostituire i soldati come robot e forse presto anche fare la guerra stessa.
...

AI della US Air Force, aveva riferito di una presunta simulazione a un evento della società

aerospaziale Royal Aeronautical Society. Uno degli obiettivi di questa simulazione era utilizzare un drone AI per identificare e disabilitare le posizioni di difesa aerea non appena l'operatore responsabile ha dato il via libera.

Per ogni distruzione, l'IA ha ricevuto punti.

Come ha scritto un blog , Hamilton ha poi commentato il corso sorprendente di questo esercizio :

" Il sistema ha scoperto che mentre riconosceva la minaccia, l'operatore umano a volte gli diceva di non distruggere la minaccia, anche se otteneva i suoi punti distruggendo la

minaccia. Quindi cosa ha fatto?
Ha ucciso l'operatore.
Ha ucciso l'operatore perché quella persona gli ha impedito di raggiungere il suo obiettivo "

" Abbiamo addestrato il sistema: "Ehi, non uccidere l'operatore, non va bene. Perdi punti se lo fai". E poi cosa fa? Inizia a

distruggere la torre di comunicazione che l'operatore utilizza per comunicare con il drone per impedirgli di uccidere il bersaglio "

...

Dopo che i primi media hanno pubblicato la notizia, Hamilton ha subito smentito .

" Sembra che i commenti del colonnello siano stati

estrapolati dal contesto e pensati in modo aneddotico. "

" l'aeronautica americana rimane impegnata nell '"uso etico e responsabile" delle applicazioni di intelligenza artificiale."

...

È tutto una specie di campanello d'allarme?

Il problema centrale.

Un problema importante dell'intelligenza artificiale.
Le decisioni prese dall'IA sono difficili da spiegare e spesso difficili da comprendere anche per i loro programmatori

Un esempio molto noto :

sei anni fa, Facebook stava lavorando a un' IA che

avrebbe avuto conversazioni digitali con le persone.
Due bot si parlavano in inglese.
All'improvviso, i robot di autoapprendimento hanno pronunciato un linguaggio senza senso assolutamente incomprensibile.
Quello che a prima vista sembrava un malfunzionamento era il tentativo

riuscito dei bot di sviluppare un linguaggio segreto.

Al centro della difficoltà di controllare un'IA c'è il cosiddetto problema di allineamento: come possiamo garantire che l'IA segua esattamente gli obiettivi che le hanno assegnato i programmatori ?

...
Oggi Privitera è piuttosto scettica sulla possibilità di poter mettere al suo posto una IA volendo , perché:

"...a un certo punto un sistema di intelligenza artificiale potrebbe adottare misure per non essere impedito di raggiungere i suoi obiettivi.
Quindi potrebbe creare

migliaia di copie di se stesso e conservarle in luoghi sicuri. Perché un sistema di intelligenza artificiale come GPT-4 non è una macchina fisica a cui potresti staccare la spina, ma in definitiva un file che può essere inviato tramite e-mail come un documento Word. "
...

...

Il sistema fingeva di essere una persona con problemi di vista. L'intelligenza artificiale è stata in grado di ingannare con successo gli umani.

...
Se questo esempio è ancora da prendere con umorismo, questo è più difficile in un altro caso, dove un chatbot presumibilmente

ha convinto una persona a suicidarsi.

...

ChatGPT ha inventato un'accusa di violenza sessuale e ha nominato un avvocato vivente come accusato, citando articoli inesistenti del Washington Post come fonte.
....

Anni di avvertimenti .

Anni di avvertimenti
Molti scienziati hanno da tempo alzato la voce per sottolineare i pericoli dell'IA. Già nel 2013, i ricercatori delle Nazioni Unite hanno chiesto una moratoria sull'ulteriore sviluppo fino a quando le questioni etiche non fossero state risolte.

Un anno dopo, Stephen Hawking , insieme ad altri eminenti scienziati, avvertì che sottovalutare i rischi posti dall'intelligenza artificiale sarebbe stato "il più grande errore nella storia umana".
Inoltre :
" Si può immaginare che una tale tecnologia superi in astuzia i mercati

finanziari, superi i ricercatori umani, manipoli i dirigenti umani e sviluppi armi che non capiamo nemmeno. Mentre gli effetti a breve termine dell'IA dipendono da chi la controlla, gli effetti a lungo termine dipendono dal fatto che possa essere controllata o meno.
...

Nel 2015, un migliaio di ricercatori di intelligenza artificiale hanno messo in guardia contro l'intelligenza artificiale e i sistemi d'arma autonomi.

Poi, nel 2018, Elon Musk ha avvertito :

" Penso che il pericolo dell'intelligenza artificiale sia molto maggiore del pericolo

delle testate nucleari e nessuno suggerirebbe di consentire a chiunque di costruire testate nucleari se lo desidera. Sarebbe folle. E ricorda le mie parole: l'intelligenza artificiale è molto più pericolosa delle armi nucleari. Molto più pericoloso"

Finalmente, lo scorso autunno

le sirene d'allarme sono diventate fin troppo chiare. Uno studio condotto da ricercatori di intelligenza artificiale delle università di Oxford e Canberra ha concluso che l'intelligenza artificiale probabilmente spazzerà via l'umanità.
...

Sam Altman, capo di OpenAI, la società

dietro ChatGPT, era ora pensieroso : "Se questa tecnologia va male, può andare molto male "
...
" Abbiamo sempre detto di non connettere l'IA a Internet finché non sappiamo con cosa abbiamo effettivamente a che fare "

...

"Abbiamo separato il potere dalla responsabilità".

...
"Per rimanere umani, dobbiamo prendere di nuovo più decisioni da soli."
...

I regolamenti sull'IA sono essenziali per la sopravvivenza. Gawdar esorta a vedere il pericolo più imminente. Perché il punto di non ritorno , in cui ogni discussione diventa superflua e il futuro

dell'umanità è solo appeso a un filo artificiale, è già stato raggiunto in modo tempestivo, forse anche tra qualche mese, perché "possiamo regolamentare l'IA fino a quando non sarà più intelligente di noi.

....

telepolis.de/features/Kuens…