L'IA secondo la Chiesa: monsignor Barone spiega “Magnifica humanitas”, la prima enciclica di papa Leone

Tutto nasce dall’ascolto, ha detto papa Leone a proposito della genesi della sua prima enciclica, Magnifica Humanitas. Anche monsignor Christian Barone ha scelto di studiare neuroscienze perché si è posto in “ascolto” di una necessità: trovare le parole adatte per comunicare con suo fratello Francesco. «Studiava biologia, io antropologia. Su certi temi non ci capivamo, io usavo un approccio filosofico, lui scientifico. Dopo il dottorato in antropologia teologica ho studiato neuroscienze. E poi teologia dogmatica». Oggi insegna teologia fondamentale in Gregoriana ed è teologo presso il Dicastero per lo sviluppo umano integrale, dove si occupa dell’impatto dell’intelligenza artificiale (IA) sul mercato del lavoro: 44 anni, siciliano di Pozzallo («il paese di Giorgio la Pira»), monsignor Barone è la persona giusta per provare a capire il cuore di Magnifica Humanitas.

Che cosa rappresenta questa enciclica nel Magistero sociale della Chiesa?

«Un grande appello alla responsabilità e una chiamata a dialogare. L’immagine del cantiere è una potente metafora per indicare la necessità di mettere insieme risorse e competenze per orientare l’IA verso una via di custodia dell’umano».

Che cos’è l’IA?

«È la capacità di compiere delle operazioni di calcolo molto complesso in maniera da ordinare grandi quantità di dati, con una rapidità e una precisione che l’intelligenza umana non può uguagliare».

Nella fruizione ordinaria la matematica non si “avverte”: si dialoga con l’IA, che ci risponde a tono...

«I modelli di IA più diffusi sono quelli linguistici, come ChatGpt, Claude, che lavorano sempre su base di calcolo statistico, ma attraverso le parole. Riescono a produrre dei testi che hanno una sempre maggiore coerenza. Ci aiutano a semplificare alcune operazioni quotidiane, come redigere un testo o riuscire a comprenderne meglio il significato. Presentano anche dei grandi limiti. Si parla di “opacità”, per dire come spesso non sono in grado di giustificare i risultati a cui arrivano, neppure ai loro stessi costruttori. Nel processo dall’informazione iniziale a quella finale, dall’input all’output, rimane uno spazio di elaborazione che non riusciamo a capire».

Come è possibile che chi li ha creati non riesca a capirli?

«A differenza dei calcolatori a cui eravamo abituati, questi non procedono in maniera lineare, hanno un andamento che si dice rizomatico, cioè a cespuglio, si aprono a un ventaglio di possibilità. Lavorano per calcolo probabilistico su base statistica, non sappiamo bene quale tipo di operazioni fanno. E ci sono esperti dell’interpretazione dell’IA nel suo operato interno. Un po’ come uno psicologo che cerca di capire queste menti artificiali».

Il Papa dice di non pensarla come una intelligenza umana, non considerarla neutra. E disarmarla.

«Siamo portati ad antropomorfizzare le macchine. Il linguaggio può trarci in inganno perché ci fa pensare alla macchina come qualcuno che ci capisce, con cui entriamo in relazione. La stessa definizione di IA è un po’ ambigua, perché l’intelligenza umana ha delle qualità che la macchina non possiederà mai. La nostra cognizione è imprescindibile dal modo in cui il corpo si relaziona nell’ambiente con gli altri. Non c’è un’intelligenza astratta dal corpo, e questo già segna un abisso tra noi e le macchine. Le macchine artificiali o intelligenti, inoltre, amplificano un aspetto dell’intelligenza umana, che è la razionalità. Ma la nostra intelligenza ha molte altre qualità e soprattutto ha una capacità sintetica, che la macchina non ha. La nostra è spesso una comunicazione non verbale, fatta di gesti, di intese, di sguardi. C’è un linguaggio del corpo che la macchina non possiede».

E la neutralità?

«L’enciclica ci spiega che l’IA è una tecnologia infiltrativa, che sempre di più entra a fare parte di noi e del nostro modo di capire le cose e il mondo. Ed è chiaro che chi progetta l’IA ci mette la sua visione di mondo. Lo strumento lavora con una grande quantità di dati che in sé non sono neutri, portano iscritti pregiudizi e precomprensioni che riguardano la razza, il genere, le culture. Inoltre, un’IA che è stata addestrata su dati prevalentemente occidentali potrebbe produrre delle forme di colonizzazione culturale in altri contesti, in Africa o Asia. C’è il rischio di un ennesimo tentativo di colonizzare culturalmente il mondo con una forma che però adesso è imprevedibile».

Si può dire che questa è un’enciclica politica?

«Parlando di dignità umana, inevitabilmente chiama in causa i diritti della persona umana e tutta una serie di temi che sono politici. L’intenzione dell’enciclica, però, è di riportare ai fondamenti e ai principi della dottrina sociale, che hanno una fondazione teologica. Come è scritto al capitolo 2, si parte da una comprensione della persona umana alla luce della Rivelazione, per poi parlare a tutti. Ci sono delle verità di ragione che valgono per tutti, perché c’è in gioco la verità dell’umano».

Da un punto di vista ecclesiale questa enciclica raccoglie e fa camminare Gaudium et Spes?

«Assume il metodo di Gaudium et Spes e coglie l’IA come un segno dei nostri tempi, che chiede di essere compreso, interrogato e illuminato alla luce del Vangelo. Si pone sulla stessa linea, che è quella di ascoltare le gioie, i dolori, le speranze, il grido dell’umanità di oggi. Papa Leone lo ha detto: è stato mosso da un ascolto che include l’ascolto del silenzio di chi è senza voce, di chi è tagliato fuori dai tavoli in cui si prendono le grandi decisioni, ma poi le subisce sulla propria pelle».

Quali sono i rischi?

«Quelli legati a una crescente delega della responsabilità umana alla macchina. È un problema, perché dietro la macchina si nascondono interessi di parte. Per questo il Santo Padre richiama sempre la necessità dell’accountability: deve essere chiaro a chi attribuire le responsabilità e l’uso della macchina deve restare sotto controllo umano. È particolarmente evidente quando si affronta il tema della guerra. Affidare alla macchina la decisione sulla vita e sulla morte delle persone è un grande rischio per l’umanità, perché la macchina tenderà sempre a ottimizzare il successo di un obiettivo, anche a spese della popolazione civile. Un altro grande rischio è quello di accrescere le ingiustizie che sono già presenti nella nostra società. Ci sono una serie di situazioni in cui probabilmente i sistemi artificiali sostituiranno sempre più la decisione umana, penso all’accesso al lavoro o alle cure mediche. Se un pregiudicato viene da me, per avere un lavoro, ci guardiamo negli occhi, mi fido, gli lascio la possibilità di mettersi in gioco. La macchina valuterà sul rischio e deciderà che quella persona non deve avere il lavoro. Nella relazione umana abbiamo la possibilità di introdurre un valore, come la fiducia, di far fare all’altro l’esperienza del perdono, del riscatto».

È il discorso del limite, dell’errore…

«L’errore, per noi il peccato, può essere un luogo salvifico, perché proprio nella fragilità umana può rivelarsi una possibilità di rinascita. Il limite è un luogo di verità in cui ci scopriamo nella nostra condizione di creature dipendenti da Dio e quindi bisognose del sostegno, della grazia. La macchina questo non può farlo».

Quali sono le potenzialità dell’IA?

«Per esempio nell'ambito della diagnostica medica l’IA è uno strumento potentissimo. La macchina attinge a una quantità di dati, a una letteratura medica che la singola persona non può possedere come conoscenza personale. Dall’altra parte, deve rimanere uno strumento, perché poi il medico deve avere l’ultima parola sulla base della sua competenza umana. Sono strumenti utili, ma devono affiancare il lavoro umano e non sostituirlo».

Il Papa invita tutti a lavorare nel cantiere del nostro tempo. In che modo?

«La metafora delle due città, Babele e Gerusalemme, è molto interessante. Non basta costruire, non basta farlo insieme, c’è bisogno di un’apertura a Dio. È quella la differenza, la trascendenza, è il costruire senza escludere Dio dal nostro modo di operare. L’enciclica ha il grande merito di chiamare tutti alla responsabilità nei confronti dell’IA, a non sentirsi spettatori passivi. Riprendendo il magistero di Francesco, parla di artigiani della pace. E questo valorizza le diversità di appartenenza e di esperienza, anche all’interno della Chiesa. Tutti possono fare la loro parte. È un appello rivolto alla società civile, ai corpi intermedi, che si organizzano e assumono nei confronti delle sfide del presente una posizione di partecipazione. Il Papa chiede di essere protagonisti della storia».

Il singolo che può fare?

«Vigilare sulle nuove tecnologie, non assumerle passivamente. E questo chiama in causa la coscienza personale. Non assuefarsi ai nuovi strumenti digitali, ma cercare in qualche modo di comprendere l’impatto che possono avere su di noi, soprattutto perché il loro operato è spesso silenzioso e neanche ce ne accorgiamo. Chiede di imparare a digiunare dall’IA, anche per avere il tempo di valorizzare la nostra capacità critica attraverso esercizi di altro genere, come la lettura, il confronto, il dibattito. Rispetto all’impegno, io credo che tutti possano fare qualcosa nella misura in cui partecipano alla vita politica, è il grande valore della partecipazione, che viene richiamato nell’enciclica. Siamo tutti coinvolti in una trama ordinaria di educazione in cui abbiamo la responsabilità verso gli altri».

Dopo l’enciclica, la Chiesa come continuerà a lavorare su questi temi?

«È stata istituita una commissione interdicasteriale, il che vuol dire che da parte della Santa Sede c’è un interesse a portare avanti queste tematiche».