A colloquio con padre Paolo Benanti, membro del Comitato Onu sull’Artificial Intelligence

Tutti ne parlano, molti hanno iniziato ad utilizzarla, ma ancora pochi comprendono cosa sia e soprattutto quali possano essere le sue conseguenze sulla vita umana. Stiamo parlando dell’Intelligenza Artificiale (Artificial Intelligence, AI), che sempre più si sta profilando come la grande innovazione tecnologica del nostro tempo. Per alcuni renderà la vita di tutti migliore, per altri porterà alla catastrofe del genere umano. Intanto il suo valore economico cresce esponenzialmente e i governi cercano di regolamentarla con non poche difficoltà, vista la rapidità con la quale queste “macchine intelligenti” stanno diventando sempre più potenti. Uno dei maggiori esperti in materia è padre Paolo Benanti, teologo e filosofo, francescano del Terz’Ordine Regolare. Ad ottobre, il segretario generale delle Nazioni Unite, António Guterres, lo ha chiamato a far parte del Comitato Onu di esperti sull’Artificial Intelligence (AI) che proprio nei giorni scorsi si è riunito al Palazzo di Vetro di New York. In questa intervista con i media vaticani, Benanti si sofferma sugli aspetti etici oltre che tecnologici dell’AI e indica il contributo che la Chiesa, “esperta in umanità”, può dare al dibattito sull’Intelligenza Artificiale.

Ormai dell’Intelligenza Artificiale discutono tutti. Nel parlare comune è quasi diventato un mantra: “Ci penserà l’intelligenza artificiale”. Ma siamo davvero davanti ad una realtà che, come dice qualcuno, avrà un impatto sull’umanità maggiore di quello della Rivoluzione industriale?

Effettivamente c’è una certa inflazione del termine “rivoluzione”. Ci piace pensare che tante cose siano rivoluzionarie, nel senso che cambino tutto. Da questo punto di vista direi che più che avere davanti una vera e propria rivoluzione, abbiamo una evoluzione della Rivoluzione industriale. La Rivoluzione industriale si è caratterizzata come un sistema per surrogare alcuni compiti fatti dall’uomo con le macchine. L’inizio delle Rivoluzione industriale ha surrogato la forza muscolare; oggi vorremmo surrogare un po’ quella che è la capacità cognitiva dell’uomo. La macchina imita molto bene tutto questo; è molto capace di avere uno scopo e tuttavia questa macchina ancora è un’imitazione e non ha una sua coscienza, una sua volontà. Quindi rivoluzione è un termine troppo forte. È un’evoluzione di questa automatizzazione. Quello che conviene però mettere subito in chiaro è che gli effetti che può avere nell’impatto sociale, possono essere “rivoluzionari”. Se la prima Rivoluzione industriale ha impattato i colletti blu rendendoli meno necessari nel processo produttivo, l’intelligenza artificiale può impattare e impatterà tantissimo sui colletti bianchi, cioè su quei lavori che formano la classe media e, se non la gestiamo secondo dei criteri che sono dei criteri anche di giustizia sociale, gli effetti potrebbero essere veramente devastanti o quanto meno molto forti nella capacità di coesione degli Stati democratici.

Un grande scienziato, l’astrofisico Stephen Hawking, ha affermato già alcuni anni fa che il successo dell’Intelligenza Artificiale può essere il più grande evento nella storia umana, ma se non evitiamo i rischi potrebbe anche porre fine all’umanità stessa. Quali dovrebbero essere i passi giusti per uno sviluppo che non abbia conseguenze distruttive?

Direi, forte anche di una riflessione che è propria della Dottrina Sociale della Chiesa, di distinguere bene tra innovazione e sviluppo per rispondere a questa domanda. L’innovazione o il progresso tecnologico sono la capacità di far qualcosa in una maniera sempre più efficiente e sempre più forte. Pensiamo ad un ambito negativo, ma purtroppo quotidiano come quello della guerra. Una pistola, una mitragliatrice, una bomba, una bomba atomica, sono alcuni punti di un’innovazione bellica. Nessuno pensa però che la bomba atomica sia migliore o più buona della pistola. Lo sviluppo invece è ciò che prende dall’innovazione tecnologica e la trasforma in qualcosa che guarda anche al bene sociale, al bene comune.

Tutte le innovazioni tecnologiche portano con sé domande di carattere etico. Con l’Intelligenza Artificiale questi interrogativi sembrano ben più complessi rispetto al passato. Perché?

Gli inglesi, quando parlano di queste macchine, usano un termine che si traduce con difficoltà in italiano perché pieno, forse, di altri significati. Queste macchine hanno una sorta di “agency”, laddove potremmo tradurre “agency” con una serie di parole: la capacità di adattarsi ai contesti per perseguire delle finalità. Ma da sempre, il fine non giustifica i mezzi! Allora, la macchina che in qualche misura può determinare quale mezzo è più adeguato nel perseguire il suo fine, è una macchina che per sua natura ha bisogno di “guardrail etici” molto ampi, perché appunto il fine non giustifica i mezzi.

L’intelligenza Artificiale potrebbe porsi dei quesiti etici autonomamente e trovare delle risposte oppure questa dimensione morale rimarrà sempre appannaggio dell’uomo?

No. Nonostante quanto alcuni film di fantascienza possano farci pensare, la coscienza non è qualcosa che appartiene alla macchina. Quindi non c’è una soggettività che si interroga su sé stessa o che interroga il mondo. È una macchina che esegue dei compiti. Riceve dei fini dall’uomo, come il robottino che può pulirci casa, per cui gli dico: “pulisci la casa” e poi adegua i mezzi utilizzando l’aspiratore, va a sbattere, torna indietro, cosa che succede quando magari trova le scale, tutte cose legate a quel fine. Quindi questa parte, il “nuovo manico” dell’Intelligenza Artificiale, cioè la scelta dei fini adeguati, deve e può essere solo in mano all’uomo. Ciò non toglie che dare dei fini alla macchina senza pensarci troppo, senza farci le giuste domande, può portare a degli esiti catastrofici, pur senza la presenza di una macchina cosciente.

ChatGpt, lo strumento più “popolare” di Intelligenza Artificiale, ha compiuto un anno in questi giorni. Per alcuni è poco più di un giocattolo, per altri invece ci dà già l’idea dei cambiamenti che può portare alla nostra vita. Qual è la sua valutazione?

È impressionante il successo che ha avuto ChatGpt. È stata l’App più scaricata di sempre. È stata l’applicazione che ha invaso la nostra quotidianità digitale. Questa cosa, se da una parte ci dice quanto l’intelligenza artificiale ci affascina, dall’altro ci apre al rischio anche di cattive comprensioni, perché ChatGpt nasce non come prodotto industriale destinato ad essere utilizzato per qualcosa, ma come una sorta di grande demo (versione dimostrativa di un programma ndr) che questa società, OpenAI, ha aperto al pubblico per far vedere la potenza di quello che stava sviluppando. ChatGpt è semplicemente un’espansione di altri prodotti che si chiamano Gpt, senza “Chat” davanti, che sono dei grandi modelli linguistici, cioè sono delle macchine che hanno lavorato su enormi quantità di testo — opportunamente sminuzzate in piccole parti che si chiamano “parametri” — e da questo hanno, in qualche misura, statisticamente determinato come le parole stiano bene tra loro. Allora, ChatGpt è un sistema per cui data una frase di input, produce un testo di output. Ma questo testo è raffinato con l’interazione di tanti uomini che — ahimè, sottopagati in parti molto povere del mondo — hanno iniziato a rispondere a questa macchina e a “dire” alla macchina quali erano le risposte migliori e quali quelle peggiori tra quelle che forniva. La maggior parte delle persone purtroppo, quando è arrivata ChatGpt, non l’ha intesa in questo modo, cioè una demo di qualcuno che risponde a qualsiasi domanda venga posta, ma come un vero e proprio motore di ricerca, chiedendo al sistema delle informazioni o affidandosi a quello che diceva.

E quindi questa mal comprensione dello strumento ChatGpt che problemi potrebbe generare?

Questo porta a dei grandi errori, perché la macchina è fatta in maniera tale che il testo deve per forza uscire da una mia domanda in ingresso, ma quel testo non è assolutamente verificato nella correttezza dei fatti. Se ChatGpt produce un testo tanto bello, non è detto che produca dei contenuti che siano reali. Qui c’è tutta la potenzialità e il rischio della macchina. La potenzialità è quella di avere finalmente uno strumento che maneggi la lingua in una maniera molto potente. Il limite è che non capiamo che quella è una sorta di grande demo e non è uno strumento definitivo e ci affidiamo a una macchina per cose che non hanno alcun valore. Mai chiedere a questa macchina come guarire da una malattia!

Da anni si parla di un digital divide che separa le nazioni tecnologicamente più avanzate da quelle in via di sviluppo. Con l’intelligenza artificiale questo divario non rischia di acuirsi lasciando ancora più indietro quei popoli che già faticano ad affermarsi in un mondo e un’economia sempre più globalizzata?

Assolutamente sì. L’intelligenza artificiale può funzionare come un moltiplicatore. Dove trova ricchezza e un tessuto con tante risorse, può moltiplicarle. Dove trova, in realtà, non un segno più, ma un segno meno, può marcare questo segno meno, anche perché questi sistemi — per quanto siano globali — sono appannaggio e di proprietà di pochissime aziende mondiali. In questo momento le grandi innovazioni dell’intelligenza artificiale vengono fatte da nove compagnie globali, che hanno tutte una capitalizzazione superiore al trilione di dollari. Per renderci conto, tutto il Pil della Gran Bretagna è pari a 3.3 trilioni, quindi parliamo di cifre da capogiro. Insomma, non è un prodotto diffuso, non è una cosa a cui tutti possono arrivare. Si rischia sempre di più una forma di dipendenza da pochissimi monopolisti. Altro elemento da mettere all’interno di questo bilancio, è il “costo nascosto” di queste tecnologie che vengono fatte su computer basati su terre rare e altri materiali che hanno un costo ambientale altissimo e consumano tantissima corrente. Allora, se è bello interrogarci e chiederci con stupore cosa significano i prodigi di queste macchine, dobbiamo pure non scordarci che hanno tutta una parte molto meno visibile, ma molto più costosa in termini di uguaglianze, di costi ambientali ed energetici, che devono essere presi in considerazione affinché non diventino una spesa che vanno a pagare le nazioni più povere del mondo.

I governi si stanno dotando di regolamentazioni sull’Intelligenza Artificiale, mentre anche le Nazioni Unite stanno affrontando la questione. Lei è stato nominato dal segretario generale dell’Onu a far parte di un comitato di 39 esperti, che si occupano di Intelligenza Artificiale. Quali sono i compiti di questo organismo?

Come dice il titolo stesso di questo organo di lavoro, è un comitato di avviso al segretario generale dell’Onu. Quello che ci è chiesto è innanzi tutto di fotografare che cosa sta succedendo con questa forma di innovazione e di farlo in una maniera molto equilibrata. Ci è chiesto di fotografare innanzitutto quali possono essere i grandi vantaggi per l’umanità di queste tecnologie. Pensiamo all’aumento delle capacità di curare, a occasioni in cui si possono creare nuove forme di ricchezza. Ma ci è chiesto anche di valutare i rischi, non solo per le ineguaglianze che possono aumentare, ma perché specialmente nelle ultime forme di intelligenza artificiale, come quella che abbiamo citato poco fa — ChatGpt — noi abbiamo una macchina che è capace di “narrare”, capace di raccontare storie e le storie possono contribuire a formare l’opinione pubblica. Questa macchina può dunque essere utilizzata per scopi che non sono esattamente positivi, come quelli di aumentare l’odio sociale o creare nemici laddove non esistono. Una macchina che può influenzare così tanto l’opinione pubblica è chiaramente una macchina da guardare con molta attenzione, soprattutto da quegli organismi che hanno una volontà di collaborare a quella che è la pace globale o a un equo sviluppo. Il compito del comitato dell’Onu è anche poi quello di offrire un’eventuale cornice all’interno della quale si possano cercare degli accordi internazionali basati su delle piattaforme di valori che possano dare a questo strumento un aiuto ad essere una forma di sviluppo e non semplicemente una forma di guadagno per pochi.

La Chiesa non si sottrae al dibattito sull’Intelligenza Artificiale. Lo dimostra anche il suo personale impegno. La Santa Sede sta inoltre lavorando su questa frontiera in diversi ambiti. I prossimi Messaggi del Papa per la Giornata mondiale per la pace e per la Giornata mondiale delle comunicazioni sociali avranno per tema proprio l’Intelligenza Artificiale. Quale è il contributo più importante che la Chiesa può dare?

La Chiesa si capisce come “esperta in umanità”. È un’istituzione che in quanto tale è presente ovunque. Raccogliere e offrire quella che è la vita dell’uomo oggi in tutte le sue grandi aspirazioni, i suoi sogni, ma anche in quelle che sono le sue fragilità e paure, è il primo terreno fertile sul quale la Chiesa offre una riflessione al mondo intero. Ormai dal 2020 il tema abita e tocca in più maniere le riflessioni anche nella Santa Sede. È chiaro che come tutti i grandi temi ha bisogno di maturare anche in questo incontro di questa ricchezza di umanità che viene dal basso, dalla presenza pastorale, e da questa capacità di riflessione legata anche al Vangelo e alla riflessione teologica. Questa grande attenzione avviene in un momento in cui il Santo Padre ha voluto dare grande rilevanza ad alcuni temi globali, come la cura della Casa comune e la fraternità. Cura della Casa comune e fraternità potrebbero essere due delle grandi prospettive, dove la Chiesa porta il suo contributo unico, originale e positivo a questo dibattito. Non serve solo il contributo politico, non serve solo quello industriale. Questo contributo di umanità, di un’umanità che si trova a vivere in un ambiente, in una casa che è il nostro pianeta, e che si trova a vivere da fratelli, è un contributo di “umanizzazione” dell’intelligenza artificiale, cioè di trasformazione del progresso in autentico sviluppo umano, di cui c’è tanto bisogno oggi.

Fonte: Alessandro Gisotti | OsservatoreRomano.va