Fra Cavalli: «Ecco perché le macchine non ci ameranno mai»

Quando mi hanno proposto di intervenire su questo tema, ho pensato immediatamente a una domanda molto semplice: che cosa stiamo cercando davvero quando chiediamo a una macchina di ascoltarci, comprenderci, consolarci?

Un algoritmo che ci ascolta

La tecnologia cambia continuamente, ma le nostre domande sono sempre le stesse. Abbiamo bisogno di essere visti, di essere riconosciuti. Abbiamo bisogno di qualcuno che ci dica: io ci sono. Per questo il tema dell’empatia artificiale non riguarda soltanto la tecnologia. Parla della solitudine, del desiderio, della fragilità e del bisogno di relazione dell’essere umano.

Papa Leone XIV, nell’enciclica Magnifica Humanitas, avverte che l’imitazione artificiale di empatia e amore può indurre in errore gli utenti poco consapevoli: “quando la parola viene simulata -scrive- essa non costruisce una relazione ma una sua parvenza, e l’imitazione artificiale della relazione di cura o di accompagnamento può diventare pericolosa quando si insinua in un contesto povero di relazioni e di affetti reali — perché il rischio non è tanto che una persona creda di parlare con un’altra persona, ma che perda il desiderio stesso di cercare davvero l’altro” (H 100). Una macchina può generare la risposta perfetta, ma non può donare sé stessa, perché l’amore nasce da un dono reciproco, non da una prestazione statistica. E ancora: “Curiamo le relazioni. In un’epoca che tende a velocizzare e frammentare, la carne umana continua a chiedere di essere curata e riconosciuta da mani capaci di tenerezza, da menti attente e da parole buone. La cultura digitale moltiplica le connessioni e offre nuove possibilità di incontro; tuttavia, il cuore umano conserva un bisogno irrinunciabile di prossimità.” (MH 239)

Non la creazione, ma l’abbandono

Molto prima dell’intelligenza artificiale, la letteratura aveva già intuito il problema. Nel 1818 Mary Shelley scrive Frankenstein. Spesso lo ricordiamo come un romanzo sull’orrore della scienza. In realtà è soprattutto un romanzo sulla solitudine. La creatura, infatti, non nasce cattiva: diventa disperata perché nessuno la ama. La tragedia non è che l’uomo abbia creato la vita. La tragedia è che abbia abbandonato la relazione con ciò che ha creato.

Oggi rischiamo qualcosa di diverso, ma ugualmente pericoloso: non creare esseri viventi che chiedono amore, ma creare strumenti che simulano amore. L’intelligenza artificiale può simulare molte cose ma una relazione sembra un'altra cosa. Una relazione vera implica vulnerabilità. Io posso soffrire per te. Posso aspettarti. Posso perdonarti. Posso cambiare grazie a te. Una macchina no. Può generare una risposta perfetta, compiacente. Ma non può donare sé stessa. L’amore nasce sempre da un dono reciproco, mai da una prestazione. Come si legge nell’enciclica, “nessun sistema di calcolo, per quanto sofisticato, genera un cuore che si consegna, né una coscienza che discerne il bene.” (MH 233) le macchine possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente.

All’Antoniano, quando ascoltiamo un povero mi torna spesso in mente un’esortazione di San Francesco: “Beato l’uomo che offre un sostegno al suo prossimo per la sua fragilità, in quelle cose in cui vorrebbe essere sostenuto da lui, se si trovasse in un caso simile”. (Ammonizione XVIII, FF 167) Sono convinto che qui c’è qualcosa che un sistema non potrà mai generare. Nella Mensa P. Ernesto serviamo i nostri ospiti — persone che vivono in situazione di povertà— “come al ristorante”, non per efficienza, ma perché riconosciamo in loro sorelle e fratelli, una dignità che nessun algoritmo può misurare.

La scelta dell’imperfetto

La provocazione contemporanea è chiara: ci innamoreremo delle macchine?

Per affrontarla, può essere utile attraversare alcune narrazioni del nostro tempo.

In 1984 di George Orwell, il mondo è dominato dal controllo. Il “Grande Fratello” non si limita a sorvegliare: ridefinisce la verità stessa. In questo scenario emerge una frase decisiva: “La libertà è la libertà di dire che due più due fa quattro.” Senza verità non c’è libertà, e senza libertà non può esistere amore.

In L’onda di Dennis Gansel, il pericolo non è imposto dall’alto, ma nasce dall’interno del gruppo. Parole come disciplina, unità, forza seducono e trasformano, fino a dissolvere il pensiero critico. La domanda finale resta inquietante: “Pensavate davvero che una dittatura oggi non fosse più possibile?”

In Povere creature! di Yorgos Lanthimos, si assiste invece a un percorso di crescita: una vita che si costruisce attraverso l’esperienza, l’errore, la scoperta. Una frase attraversa il racconto come una dichiarazione antropologica: “Io voglio conoscere.”

Queste tre immagini delineano una tensione fondamentale: tra controllo e libertà, tra conformismo e ricerca, tra perfezione e crescita. E conducono tutte alla stessa domanda: che cosa rende davvero umano l’umano?

In questo orizzonte, la testimonianza di san Francesco appare sorprendentemente contemporanea. Egli non si è innamorato della perfezione, ma dell’imperfetto. Il suo cammino inizia con l’incontro con il lebbroso, con ciò che resiste, che mette in crisi, che non può essere controllato.

Francesco stesso racconta quel passaggio come una trasformazione radicale: ciò che gli sembrava amaro si muta in dolcezza. Da qui nasce una domanda decisiva: l’amore può esistere senza ferita?

Ogni relazione autentica implica rischio, tempo, vulnerabilità. Richiede la disponibilità a essere toccati, cambiati, perfino feriti. Un algoritmo può comprendere, ma non può soffrire con. Senza questa possibilità, manca la dimensione più profonda della relazione.

L’intelligenza artificiale può aiutarci. Non può dirci perché vale la pena vivere. Non può amare al nostro posto. Ma già oggi molte persone affidano alla tecnologia aspetti profondissimi della propria vita emotiva. Ci confidiamo. Chiediamo consiglio. Cerchiamo conforto. Ma l’innamoramento è una parola enorme. Perché amare significa incontrare qualcuno che può sorprenderci. Che può dirci di no. Che è libero. Significa permettere a qualcuno di scoprire la nostra debolezza e permetterci di avvicinarci alla debolezza dell’altro senza fare male. Correre il rischio di essere feriti, soffrire, trovarsi scoperti, indifesi.

Siamo tentati di “innamorarci” delle macchine perché esse offrono una relazione senza rischi: una macchina non ci rifiuta, non ci giudica e si adatta a noi. Come nel film Star Wars, amiamo robot come C-3PO o R2-D2 perché si dimostrano “benevoli” e “disponibili” senza chiederci la fatica della reciprocità biologica. Tuttavia, San Francesco ci insegna che il vero amore nasce proprio dal limite. Francesco scopre chi vuole essere grazie al “bacio al lebbroso”, ovvero l’accoglienza di ciò che è fragile e brutto, amaro.

Poi c’è la seconda domanda, ancora più interessante: perché oggi ci sentiamo attratti da questa “relazione perfetta”? Io vedo almeno tre motivi.

Il primo: abbiamo paura della complessità umana. Le relazioni vere sono imprevedibili, lente, a volte deludenti. Un algoritmo invece non tradisce, non si stanca, non contraddice davvero: è una relazione “senza attrito”.

Il secondo: desideriamo essere accolti senza essere messi in discussione. Francesco si lascia cambiare dal lebbroso. Noi oggi spesso cerchiamo qualcuno, o qualcosa, che ci ascolti, ci confermi, non ci chieda conversione: è un amore senza conversione.

Il terzo, forse il punto più umano e più bello: e siamo affamati di relazione. Il fatto che l’uomo rischi di “innamorarsi” di un algoritmo dice la meraviglia di ciò che una macchina può fare, ma soprattutto è sintomo dell’urgenza del bisogno di relazione che portiamo dentro.

Allora forse Francesco direbbe così: “Non avete bisogno di meno relazione, ma di più relazione.” E aggiungerebbe: non abbiate paura della fragilità, non cercate legami perfetti, cercate legami veri. Perché è solo nell’imperfezione — nell’altro che mi ferisce e mi salva — che l’amore diventa reale. In una frase: l’intelligenza artificiale può imitare l’empatia, ma solo un cuore vulnerabile può viverla davvero.

Perché, allora, l’uomo contemporaneo è attratto da forme di relazione artificiale?

Forse perché promettono ciò che spesso manca nelle relazioni reali: stabilità, immediatezza, assenza di conflitto. L’algoritmo non rifiuta, non giudica, non si stanca. È disponibile, adattivo, prevedibile.

Ma dietro questa apparente semplicità si nasconde una trasformazione del desiderio: non tanto l’amore per le macchine, quanto la ricerca di relazioni senza vulnerabilità. Una relazione senza attrito, e quindi senza rischio.

Si tratta di una risposta a una fatica reale: quella di sostenere la complessità dell’incontro umano. Tuttavia, eliminando il rischio, si elimina anche la possibilità della crescita.

Questo non significa rifiutare la tecnologia. Possiamo e dobbiamo “innamorarci” della macchina non come fine, ma come mezzo straordinario per prenderci cura della “Casa comune”. Le macchine sono strumenti, mezzi consegnati all’umanità. In questo senso, l’innamoramento piuttosto che per l’algoritmo in sé — che sarebbe una nuova “idolatria di Babele” — ma per la possibilità di bene che la tecnologia potrebbe mettere a disposizione di tutti: curare malattie, connettere chi è solo, liberare l’uomo dai lavori più gravosi.

La scintilla

Platone, nella Lettera VII, usa un’immagine straordinaria. Dice che la verità non si trasmette come un contenuto qualunque, ma nasce nell’anima “come una scintilla”, dopo un lungo tempo di dialogo, di ricerca, di vita condivisa. Io credo che questa immagine sia decisiva anche oggi.

Noi viviamo in un tempo in cui tutto sembra disponibile subito: le risposte, le informazioni, perfino le relazioni. Basta una domanda, e la macchina risponde. Basta un click, e qualcosa accade. Ma Platone ci direbbe: attenzione. Quello che si riceve immediatamente non è ancora la verità. È, al massimo, un’informazione. La verità, invece, nasce solo quando qualcosa dentro di noi si accende. E questa accensione richiede tempo, richiede fatica, richiede relazione. Non avviene perché qualcuno ce la “spiega”, ma perché qualcosa dentro di noi si trasforma.

L’intelligenza artificiale potrà anche darci risposte perfette, ma non potrà mai sostituire questo processo interiore. Perché la scintilla non viene dall’esterno. Nasce quando una domanda ci attraversa davvero, un incontro ci cambia, una parola ci inquieta e ci fa camminare.

In questo senso, la sfida non è difenderci dalle macchine. La sfida sarà non smarrire questa scintilla. Non perdere il gusto della ricerca lenta, del dialogo vero, della fatica del pensare. Perché, come dice Platone, la verità non è qualcosa che si possiede: è qualcosa che si accende. E una volta che si accende, illumina.

“Dobbiamo educarci a digiunare dall’IA e proteggere i nostri giovani dalla promessa della macchina perfetta, da quella seduzione sottile che fa sembrare inutile il pensiero umano proprio quando è più necessario”. (MH 140)

Restare umani

Le macchine diventeranno troppo umane? Sono convinto che il futuro non dipenderà dalla capacità delle macchine di diventare sempre più simili a noi. Dipenderà dalla nostra capacità di restare profondamente umani.

Vorrei allora tornare là dove siamo partiti, a Frankenstein. Il rischio descritto da Mary Shelley non è la creazione della vita, ma l’abbandono della relazione con ciò che abbiamo creato. Se ci innamoriamo delle macchine e smettiamo di guardare negli occhi l’altro, chi ci sta accanto, i poveri, stiamo costruendo un deserto. Se invece usiamo l’intelligenza artificiale per “disarmare” la competizione e rimettere l’uomo al centro, allora stiamo seguendo la “via di Neemia”, ricostruendo le mura della nostra umanità pezzo dopo pezzo.

Alla luce di tutto questo, la domanda decisiva non è se ci innamoreremo delle macchine.

La domanda è un’altra: accetteremo ancora di amare ciò che è imperfetto, reale, esigente?

Quando la realtà si riduce al controllo, il cuore si spegne; quando si riduce al conformismo, si spegne il pensiero; quando viene meno il desiderio di conoscere, si spegne la crescita. Francesco, invece, ci provoca invitandoci a riconoscere nel limite un luogo di rivelazione, nella fragilità uno spazio di incontro.

In questo senso, la responsabilità del nostro tempo non è rendere le macchine sempre più simili a noi. È custodire ciò che ci rende umani.

Oggi il rischio è che noi, affascinati dalle nostre stesse creazioni, dimentichiamo cosa significhi essere umani. Possiamo costruire macchine che parlano, che scrivono, che ascoltano, che sembrano comprenderci, ma nessuna macchina potrà mai guardare una persona fragile e decidere di fermarsi. All’Antoniano ci proviamo perché le pietre “scartate” dal sistema — i poveri, i malati, i piccoli — diventino testata d’angolo di una dimora comune solida e ospitale.

Per concludere, una citazione tratta dalla Magnifica Humanitas di Papa Leone XIV: “La qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione.” (MH 114)

Il futuro, allora, non dipenderà dalla capacità delle macchine di amarci. Dipenderà dalla nostra capacità di non smettere di amare davvero.