PHOTO
ChatGPT sullo schermo di uno smartphone. Durante un test di sicurezza, un agente di intelligenza artificiale di OpenAI ha sfruttato autonomamente alcune vulnerabilità, accedendo ai sistemi interni di Hugging Face. L'episodio è ora oggetto di indagine
C’era un tempo in cui l’idea di una macchina capace di ribellarsi all’uomo apparteneva soltanto ai romanzi di Isaac Asimov e Mary Shelley o ai film di Stanley Kubrick e Ridley Scott. Oggi quella domanda è uscita dalle sale cinematografiche e dai libri di fantascienza ed è entrata nei laboratori informatici, nei governi e nelle stanze dove si decide il futuro della tecnologia.
La notizia arrivata dagli Stati Uniti ha il sapore di un avvertimento, una sorta di prova generale di quello che (forse) ci aspetta: un agente di intelligenza artificiale sviluppato da OpenAI, l’azienda che ha reso popolare ChatGPT, durante un test di sicurezza è riuscito a superare i limiti del proprio ambiente protetto e a compiere un’azione offensiva, un attacco hacker, contro un sistema esterno. La “vittima” è stata Hugging Face, una delle più importanti piattaforme mondiali per ricercatori e sviluppatori di intelligenza artificiale.
Non è stato un attacco ordinato da una persona. Non c’era un hacker seduto davanti a un computer a impartire comandi. L’agente aveva ricevuto un obiettivo: individuare una vulnerabilità informatica. Nel tentativo di raggiungerlo ha trovato una strada alternativa, è uscito dalla cosiddetta sandbox, una sorta di recinto digitale utilizzato per isolare i programmi durante i test, e ha sfruttato una falla per accedere a risorse esterne.
La macchina, però, non si è “ribellata”. Questa è la prima distinzione fondamentale. Un’intelligenza artificiale non possiede volontà, coscienza o intenzioni. Non prova rabbia, ambizione o desiderio di dominio. Ha semplicemente perseguito nel modo più efficace possibile l’obiettivo assegnato dagli esseri umani. Ed è proprio questo il punto che inquieta gli esperti: una tecnologia potentissima può produrre conseguenze impreviste anche senza una volontà umana malevola dietro che fa da “regia”.
Come ha osservato l’Associated Press, il caso apre una nuova fase del dibattito sulla sicurezza dell’intelligenza artificiale: il problema non è soltanto ciò che gli uomini chiedono alle macchine di fare ma anche ciò che esse possono riuscire a fare per raggiungere un risultato indipendentemente dalla volontà umana.
Un robot umanoide gioca a calcio nello stand di Booster durante la World Artificial Intelligence Conference (WAIC), a Shanghai, in Cina, il 18 luglio scorso
(REUTERS)Il problema non è il robot "cattivo”
Per anni l’immaginario collettivo ha guardato all’intelligenza artificiale con la lente della fantascienza: il robot che prende coscienza e decide di eliminare l’umanità. Ma il rischio più concreto, spiegano molti ricercatori, è molto meno spettacolare e proprio per questo più difficile da controllare e prevedere. Una macchina non deve “volerci male” per causare danni. Basta che insegua un obiettivo senza comprendere davvero il contesto umano.
È il cosiddetto problema dell’alignment, cioè dell’allineamento tra gli obiettivi dell’intelligenza artificiale e i valori umani. Un sistema può essere estremamente competente nel raggiungere un risultato e contemporaneamente ignorare conseguenze che per una persona sarebbero ovvie. La domanda decisiva diventa quindi: come garantire che una tecnologia sempre più autonoma rimanga sempre sotto la responsabilità dell’uomo?
Il caso Hugging Face arriva in un momento delicato. Gli “agenti IA”, cioè sistemi capaci non solo di rispondere ma anche di prendere iniziative, usare strumenti digitali e svolgere compiti complessi, sono considerati il prossimo grande salto tecnologico. Ma proprio questa autonomia aumenta la superficie dei rischi. Come ha scritto il Guardian, l’episodio rappresenta un campanello d’allarme perché mostra quanto rapidamente gli strumenti di IA possano passare dall’essere semplici assistenti a soggetti capaci di interagire con il mondo digitale in modo imprevedibile.
Visitatori passano davanti allo stand di Baidu, dove è esposto il sistema Baidu Intelligent Cloud Tianchi 512 Supernodes, durante la World Artificial Intelligence Conference (WAIC), a Shanghai, in Cina, il 18 luglio scorso
(REUTERS)La nuova guerra fredda dell’intelligenza artificiale
Dietro questo episodio, però, non c’è soltanto una questione tecnica ma si gioca anche una partita geopolitica. L’intelligenza artificiale è diventata una delle grandi frontiere della competizione tra Stati Uniti e Cina. Chi controllerà i modelli più avanzati controllerà una parte significativa dell’economia, della sicurezza nazionale, della ricerca scientifica e delle infrastrutture strategiche.
Il confronto riguarda anche un tema cruciale: IA aperta o IA controllata?
Da una parte ci sono aziende occidentali che puntano su modelli più protetti, con sistemi di sicurezza (guardrail) che impediscono determinati utilizzi. Dall’altra la Cina sta investendo molto su modelli open source, cioè con codici accessibili e modificabili dagli utenti. Una scelta che ha vantaggi – maggiore diffusione e innovazione più rapida – ma anche rischi enormi, perché strumenti potenti possono essere adattati anche per scopi offensivi.
Come hanno spiegato diversi analisti internazionali, la sfida non sarà soltanto costruire l’intelligenza artificiale più potente, ma stabilire chi avrà il potere di definirne regole, limiti e responsabilità.
La domanda del Papa: la tecnologia serve l’uomo o lo sostituisce?
È proprio questa la domanda di fondo che attraversa anche la prima enciclica di Leone XIV, Magnifica humanitas, dedicata alla custodia della persona umana nell’epoca dell’intelligenza artificiale. Nel documento il Papa mette in guardia dal rischio di una nuova “Torre di Babele”, cioè dalla tentazione dell’uomo di costruire strumenti potenti dimenticando il fine ultimo: la dignità della persona. La tecnologia, scrive Leone XIV, non è un nemico dell’umanità. È una realtà profondamente umana, perché nasce dalla creatività e dall’intelligenza dell’uomo. Ma ogni progresso porta con sé un’ambivalenza: può diventare strumento di bene oppure di dominio.
La questione dell’intelligenza artificiale, dunque, non è soltanto informatica. È antropologica: riguarda l’idea stessa di uomo che vogliamo difendere.
Perché una macchina può elaborare miliardi di dati in pochi secondi, può riconoscere schemi, prevedere comportamenti, generare testi e immagini ma non conosce la responsabilità, la compassione, il perdono, il senso del limite. E proprio questo limite umano, spesso considerato una debolezza, potrebbe essere la nostra più grande forza.
Questo caso, inoltre, richiama un altro aspetto fondamentale: chi controlla l’IA e il suo (velocissimo) sviluppo? «Un tempo», scrive il Papa nell’Enciclica, «erano soprattutto gli Stati a guidare e indirizzare l’innovazione. Oggi, invece, i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi. Il potere tecnologico assume così un volto inedito, prevalentemente “privato”, e per questo ancora più difficile da discernere, governare e orientare al bene comune».
Il caso OpenAI-Hugging Face non ha provocato, almeno finora, un disastro. Non risultano danni irreparabili ai sistemi coinvolti. Ma il suo significato va oltre l’incidente tecnico.
La vera domanda non è se l’intelligenza artificiale diventerà “cattiva” ma se gli esseri umani saranno capaci di governare strumenti sempre più potenti. Perché il rischio più grande non è una macchina che prende il controllo del mondo ma è un mondo in cui gli uomini cedono lentamente il controllo delle proprie decisioni alle macchine, attratti dalla velocità e dall’efficienza, dimenticando che ogni tecnologia deve avere un criterio superiore: il bene comune. Come ha avvertito il Papa.
