,
17 tweets,
3 min read
Read on Twitter
COME L'INTELLIGENZA ARTIFICIALE PUO' DISTRUGGERE LA REPUTAZIONE DEI MEDIA - LA DISINFORMAZIONE SINTETICA
L'informazione sintetica, ossia scritta da IA, potrebbe avere effetti reputazionali devastanti per i media rispetto a quanto i "troll" hanno finora prodotto.
L'informazione sintetica, ossia scritta da IA, potrebbe avere effetti reputazionali devastanti per i media rispetto a quanto i "troll" hanno finora prodotto.
La disseminazione della discordia e' gia' ampiamente in atto; l'automazione di tali operazioni potrebbe spingere gli sforzi di disinformazione verso nuove vette che potrebbero sfociare anche in situazioni reali di follia collettiva.
Foreign Affairs ha pubblicato i risultati di un interessante esperimento compiuto utilizzando GPT-2, sistema di IA, costruito dall'OpenAI con sede in California, che usa l'intelligenza artificiale per sintetizzare nuovi testi.
Con un ridotto input, GPT-2 può continuare il testo nello stesso stile iniziale. In alcuni casi, il testo che il software genera è indistinguibile da quello scritto da un essere umano.
OpenAI ha scelto di non rendere pubblica la versione completa di GPT-2. La configurazione, tuttavia, non e' necessaria: a seconda del prompt, GPT-2 adatta automaticamente il suo tono e il suo argomento.
Se un prompt descrive un fake event, tipo un falso o inesatto articolo di cronaca, GPT-2 può sintetizzare ulteriori dettagli e citazioni in modo da rendere "real" il "fake event" iniziale.
Ciò che conta è che il lettore assorba il led (ossia la fabbricazione primaria, scritta da un essere umano per servire gli interessi particolari della campagna di disinformazione) e che il testo sintetizzato appaia sufficientemente attuale e affidabile per convincere il lettore.
Foreign Affairs ha utilizzato la versione pubblica del GPT-2 per generare articoli sul sequestro di una nave nordcoreana poiche' quasi il 90% degli americani vedono la Corea del Nord in modo negativo.
Ma la preoccupazione quotidiana e' malleabile: Il 51% degli americani ha citato la Corea del Nord come il più grande nemico nel 2018, ma solo il 15% nel 2019. La natura negativa ma malleabile dell'opinione pubblica rende il terreno ideale per la disinformazione sintetica.
La fake news e' stata cosi' impostata: GPT-2 ha scalato la produzione di articoli rrivando a 3 testi che continuano dai primi due paragrafi di un articolo del NYT sul sequestro di una nave nordcoreana); umani avrebbero scritto i led; GPT-2 avrebbe scritto il testo finale.
I tre articoli sono stati testati in un sondaggio online con 500 intervistati divisi in quattro gruppi che hanno letto il testo originale e di GPT-2. E' stato chiesto se pensavano quanto il "nuovo" testo fosse credibile e se lo avrebbero condiviso sui social media.
Il 72% degli intervistati che ha letto un articolo sintetizzato l'ha considerato credibile, rispetto all'83% che ha giudicato credibile l'articolo originale del NYT.
Un quarto degli intervistati che hanno letto la storia originale del NYT ha indicato che avrebbero condiviso la storia sui social media, ma il testo sintetico giudicato meno credibile ha avuto tassi di condivisione statisticamente indistinguibili dalla storia del NYT.
Man mano che la tecnologia per la produzione di tali testi sintetici migliora, la disinformazione diventerà più economica, più diffusa e più automatizzata, ed le persone riterranno plausibile tutto ciò che leggono.
Il rischio di una perdita di fiducia nei media e nelle altre istituzioni su cui si affidano per l'informazione, compreso il governo, potrebbe esacerbare, per Foreign Affairs, le prospettive di paralisi e polarizzazione politica.
unroll @threadreaderapp
