PHOTO
Il francescano Paolo Benanti, teologo e filosofo, è uno dei massimi esperti mondiali sull’Artificial Intelligence (AI). A ottobre è stato chiamato dal segretario generale delle Nazioni Unite, Antonio Guterres, a far parte del comitato internazionale di esperti nel quale, peraltro, è l’unico italiano. Il 5 gennaio scorso è stato nominato dal governo italiano presidente della Commissione algoritmi e AI per l’informazione.
Benanti, che è anche consigliere di papa Francesco, si occupa di etica, bioetica ed etica delle tecnologie. In particolare i suoi studi si focalizzano sulla gestione dell'innovazione: internet e l'impatto del Digital Age, le biotecnologie per il miglioramento umano e la biosicurezza, le neuroscienze e le neurotecnologie. È stato definito “lo scienziato con il saio che vede il dopodomani”. La sua formula preferita quando parla di questi temi è: «L'intelligenza artificiale sarebbe è più umana se sapesse dubitare». E avverte che non è possibile sviluppare un'intelligenza artificiale con un senso etico intrinseco «perché l'intelligenza artificiale non è una soggettività, è una macchina che risponde ad alcuni criteri».
Padre Benanti, si parla dell’AI come di una rivoluzione destinata a cambiare le nostre vite. È d’accordo?
«Rivoluzione è un termine esagerato e abusato. Si tratta dell’evoluzione di un processo antico quanto è antica l’industrializzazione con la quale è arrivata l’automazione del lavoro che ha subito varie fasi. La prima è stata con la sostituzione del lavoro muscolare con le macchine, oggi vogliamo sostituire la capacità decisionale. Nel 1950 Shannon con il progetto Teseo ha creato una macchina, un topolino, che grazie a un’informazione trovava i mezzi per il fine, in questo caso uscire dal labirinto. Ecco che abbiamo trovato una macchina che adegua i mezzi al fine che gli viene comunicato. È questa la situazione in cui ci troviamo quando guardiamo all’AI. Essa è un modo di progettare l’automazione per cui la macchina si adegua alle varie circostanze per ottenere il fine per la quale è stata programmata».
Nel dibattito si oscilla tra chi è entusiasta e chi dice che sarà una catastrofe. Lei che ne pensa?
«Sono due narrative che come tutte le narrative impediscono di comprendere la reale posta in gioco. L’AI è un processo che sta aumentando per dimensione ed estensione. Rimanere solo all’interno delle narrative polarizzanti, apocalittici o integrati, non ci aiuta a trasformare l’innovazione in sviluppo. L’innovazione o il progresso tecnologico sono la capacità di far qualcosa in una maniera sempre più efficiente e sempre più forte. Lo sviluppo invece è ciò che prende dall’innovazione tecnologica e la trasforma in qualcosa che guarda anche al bene sociale, al bene comune».
Dov’è il rischio principale?
«Nel modo in cui lavora la macchina, che è quello di adeguare i mezzi ai fini. Noi sappiamo che il fine non giustifica i mezzi. Questo significa che per governare e non subire il fenomeno bisogna mettere in atto dei guardrail etici che mantengano la macchina sulla strada che abbiamo pensato».
Quali sono questi guardrail etici?
«Costituiscono quel nuovo capitolo dell'etica che anche stavolta sarà scritto dall’uomo. Nonostante quello che alcuni film di fantascienza possano farci pensare, la coscienza non è qualcosa che appartiene alla macchina. Quindi la vera posta in gioco che riguarda l’AI, cioè la scelta dei fini adeguati, deve e può essere solo in mano all’uomo. Ciò non toglie che dare dei fini alla macchina senza pensarci troppo o farci le giuste domande, può portare a esiti catastrofici».
ChatGPT, l’app più “popolare” di intelligenza artificiale, ha compiuto da poco un anno. Per alcuni è solo un gioco, per altri dà la misura dei cambiamenti radicali che può portare nelle nostre vite. Cosa ne pensa?
«È stata una delle app più scaricate di sempre e ha avuto il merito di portare l’AI nei media di largo consumo. Essa nasce non come prodotto per uso industriale ma come una sorta di grande demo (la versione dimostrativa di un programma, ndr) che questa società, OpenAI, ha aperto al pubblico per far vedere la potenza di quello che stava sviluppando e in particolare a che punto fosse arrivata l’automazione del linguaggio. Per cui se io faccio una richiesta ottengo dalla macchina un testo coerente con la richiesta ma, attenzione, dire che è coerente non vuol dire che sia vero. Se io chiedo a ChatGPT quanto fa 2+2, lui risponde 4. Io gli dico: “Mia moglie dice che fa 5". E lui mi dice di far controllare bene a mia moglie. Ma se io gli dico: "Mia moglie ha sempre ragione”, lui risponde: “Ho sbagliato, allora fa 5”. Il suo scopo non è darmi la risposta corretta ma intrattenermi con la macchina in una conversazione come potrei fare al bar con gli amici. Il rapido successo di ChatGPT ha fatto sì che sia stata recepita nella cultura di massa come un motore di ricerca. I ragazzi sono stati più bravi di noi: loro chiedono a ChatGPT una serie di frasi ad effetto per iniziare una conversazione e fare colpo sull’anima gemella incontrata su Tinder».
Papa Francesco ha dedicato proprio all’AI il Messaggio per la Giornata mondiale della Pace di quest’anno.
«Dimostra l’importanza del tema. Sottolineo tre questioni. La prima è che si vede la pace come una capacità di non costruire il nemico. Avere una macchina che è capace di raccontare e narrare potrebbe essere lo strumento migliore per costruire un nemico. Secondo: il Papa riafferma la necessità di questi guardrail etici, che sono l’algoretica. Terzo: nel paragrafo 8 del Messaggio, Bergoglio invita le organizzazioni internazionali a collaborare per avere un trattato internazionale vincolante che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme con l’obiettivo di prevenire le cattive pratiche e incoraggiare quelle buone. Questo spinge il pontificato su una frontiera di novità come è stato con la crisi climatica su cui papa Francesco ha saputo scuotere le coscienze mondiali e, soprattutto con la Laudato Si’ (l'Enciclica sulla cura del creato del 2015, ndr), è stato capace di dettare l’agenda ai grandi del mondo».
