C’è qualcosa di di inquietante, nel grande dibattito sull’intelligenza artificiale che si è acceso in questi giorni. A chiedere di rallentare non sono più soltanto filosofi, teologi o coloro che Silicon Valley ha liquidato per anni come “doomers”, ovvero catastrofisti e nemici del progresso. Adesso a tirare il freno sono gli stessi uomini che l’IA la costruiscono e la spingono ogni giorno un po’ più avanti.

Jacob Coxon, 27 anni, già ricercatore di OpenAI e poi di Anthropic, si è dimesso denunciando una corsa che sta «giocando d’azzardo con le nostre vite», aggiungendo con toni apocalittici che l’IA ci potrebbe uccidere tutti tra dieci anni. Il timore è quello di sistemi capaci di migliorarsi da soli, sempre più rapidamente, fino a diventare difficili da comprendere e controllare. Evan Hubinger, responsabile della sicurezza di Anthropic, ha parlato di una probabilità superiore al 10 per cento che l’intelligenza artificiale possa provocare l’estinzione dell’umanità nel prossimo decennio.

Non sono voci isolate. Dario Amodei, amministratore delegato di Anthropic, ha chiesto un rallentamento globale nello sviluppo dei modelli. Sam Altman di OpenAI ed Elon Musk si sono detti d’accordo. Demis Hassabis, cofondatore di Google DeepMind, ha proposto una governance internazionale dell’AI, immaginando un organismo indipendente sul modello dell’Agenzia internazionale per l’energia atomica, capace di valutare i sistemi più avanzati e coordinare gli Stati.

L’idea, però, non nasce oggi nella Silicon Valley. Prima che diventasse un’urgenza ammessa dagli stessi protagonisti della corsa tecnologica, Papa Francesco aveva già posto la questione sul terreno internazionale. Nel messaggio per la Giornata mondiale della pace del 2024 aveva chiesto alla «Comunità delle nazioni» un «trattato internazionale vincolante» capace di regolare lo sviluppo e l’uso dell’intelligenza artificiale. E al G7 di Borgo Egnazia aveva ricordato che non basta confidare nella buona volontà di chi produce queste tecnologie: «spetta alla politica creare le condizioni» perché siano usate per il bene.

Leone XIV ha raccolto e rafforzato quella intuizione. Nella Magnifica humanitas ha scritto che la velocità dello sviluppo tecnologico corre più in fretta delle norme e delle istituzioni chiamate a governarlo. Ha chiesto quadri giuridici adeguati, vigilanza indipendente e una politica che non abdichi. E rivolgendosi ai legislatori cattolici ha indicato una vigilanza capace di operare a livello locale, nazionale e internazionale. Non si tratta di frenare la ricerca, ma di impedire che una tecnologia con effetti planetari venga regolata soltanto da chi la possiede. Tanto è vero che non sono stati rari i contatti dalla Sylicon Valley con il Vaticano per una “consulenza etica”.

È qui che il contrasto con Washington diventa clamoroso. Il New York Times lo ha descritto senza mezzi termini: da una parte gli allarmi su un possibile rischio esistenziale, dall’altra la paralisi del governo americano. Negli Stati Uniti, osserva il quotidiano, non c’è stata quasi nessuna risposta concreta. Audizioni e dichiarazioni, ma ben poco altro. E questo mentre emergono episodi nei quali sistemi sperimentali hanno superato i confini assegnati nei test, mentre Anthropic documenta l’uso dei suoi modelli da parte di attori legati all’Iran per seguire navi della Marina americana e segnala tentativi di impiegare l’AI per attacchi informatici, propaganda e ricerche biologiche pericolose.

Donald Trump considera il vero pericolo un altro: perdere la gara con la Cina. Ha detto di non essere preoccupato dall’eventualità che l’intelligenza artificiale possa minacciare l’umanità; teme piuttosto che gli Stati Uniti non vincano la competizione tecnologica. È il cuore del problema. Se Washington rallenta e Pechino continua a correre, gli americani temono di perdere la supremazia. E viceversa. È il classico “dilemma del prigioniero”: entrambi avrebbero interesse a cooperare, ma la reciproca sfiducia spinge ciascuno verso la scelta che, alla fine, rende tutti meno sicuri.

Con l’IA il problema è persino più complicato che con il nucleare. Un silo missilistico può essere fotografato da un satellite, un test atomico può essere rilevato. Un nuovo modello può essere addestrato dietro le mura di un data center, attraverso codice e potenza di calcolo difficili da controllare dall’esterno. Per questo una governance internazionale non è una pia aspirazione da convegno, ma una necessità politica. E non è casuale che a sostenerla, prima di molti altri, siano stati Francesco e Leone XIV.

La Chiesa non possiede laboratori di AI né brevetti miliardari. Possiede però una domanda antica, che torna nuova davanti a ogni rivoluzione tecnica: tutto ciò che possiamo fare, dobbiamo anche farlo? E soprattutto: fa bene all’umanità? La risposta non può essere lasciata alle macchine. E neppure soltanto al mercato. La tecnologia corre, la politica arranca, gli Stati diffidano gli uni degli altri. Nel mezzo resta l’uomo, con la sua libertà e la sua responsabilità. È questo il punto indicato dai due Papi: l’intelligenza artificiale, come si legge nella Magnifica Humanitas, ha bisogno di regole comuni perché il progresso rimanga umano. Non per paura del futuro, ma perché il futuro non venga deciso senza di noi.