«Quando succede un casino, quando sono nei guai, cosa devo fare?». È questa la domanda – semplice, diretta, disperata – che molti adolescenti rivolgono oggi al mondo adulto. Ma spesso senza ricevere risposta. Il web, che per i nativi digitali è ambiente di vita più che di passaggio, può trasformarsi in una trappola silenziosa: parole, emoji e meme diventano armi, e il confine tra scherzo e violenza si fa sottile, mobile, pericoloso.

È qui che entra in gioco NetGuardian, un'applicazione basata sull’Intelligenza Artificiale pensata per monitorare in tempo reale le chat scolastiche, misurare l’esposizione al rischio di cyberbullismo e supportare educatori, insegnanti e studenti nell’individuare i segnali d’allarme prima che sia troppo tardi. Una vera e propria sentinella digitale al servizio della comunità educante, capace di leggere i linguaggi e i sottotesti delle conversazioni tra pari, fornendo un’indicazione oggettiva del livello di rischio per ogni classe.

Il progetto nasce dalla partnership tra l’Università degli Studi di Padova, Fondazione Carolina – da anni attiva sul fronte della sicurezza online – e la Fondazione TIM, che ha finanziato lo sviluppo attraverso una Call for Ideas dedicata all’innovazione sociale.
Un algoritmo che ascolta, osserva e protegge

Il cuore di NetGuardian è un algoritmo di Machine Learning applicato all’analisi del linguaggio naturale (Natural Language Processing, NLP). L’IA analizza le conversazioni testuali tra studenti, alla ricerca di “repertori sentinella”, cioè specifici pattern linguistici e relazionali che indicano un’esposizione crescente al rischio di comportamenti lesivi: insulti, isolamento, minacce, manipolazioni.

Il risultato è un indice numerico, da 0 a 10, che suddivide il rischio in quattro fasce: bassa, media, medio-alta e alta. «NetGuardian – spiega il professor Gian Piero Turchi, responsabile scientifico del progetto – non lavora con categorie fisse di bullo o vittima. Perché non esistono. Esistono solo interazioni più o meno orientate alla salute della comunità scolastica».

L’app è composta da due ambienti. Il primo è una piattaforma di messaggistica usata dagli studenti, con nickname, avatar e interfaccia familiare. Il secondo è un cruscotto dedicato ai docenti, che ricevono in tempo reale il grado di esposizione al rischio della loro classe, in forma aggregata e anonima. In caso di rischio medio-alto, l’applicazione fornisce suggerimenti per l’intervento didattico; se il rischio è elevato, può essere attivata direttamente la task force di Fondazione Carolina.

«Il valore aggiunto dell'app» sottolinea Ivano Zoppi, segretario generale della Fondazione «è la capacità di intervenire a monte, prima che l’azione negativa si manifesti. Mentre molti strumenti operano a valle, quando il danno è già stato fatto, NetGuardian riconosce i segnali relazionali che possono trasformarsi in violenza».
I risultati della sperimentazione

Tra dicembre e maggio scorsi, NetGuardian è stata testata in 18 classi di scuole secondarie di primo e secondo grado tra Lombardia e Piemonte, coinvolgendo 263 studenti tra i 13 e i 19 anni. Gli studenti hanno chattato su una piattaforma simulata, interagendo anche con un profilo “ombra” creato per testare le reazioni a situazioni di rischio variabile. Poi, a ciascuno di loro è stato chiesto di valutare il livello di pericolo percepito.

Il 70% non ha riconosciuto di trovarsi in una situazione rischiosa. Solo il 30% ha segnalato una percezione del rischio, e quasi esclusivamente quando il contenuto era chiaramente aggressivo o lesivo.  «L’esperienza diretta non basta» spiega Turchi. «Il dato più grave è che anche chi ha subito o praticato cyberbullismo in passato non sviluppa una maggiore capacità di riconoscimento. Ciò che manca non è la conoscenza dei fenomeni, ma la consapevolezza relazionale».

Anche il linguaggio gergale non ha inciso sul livello di rischio. «Slang, trappole verbali, modi di dire forti» chiarisce Zoppi «non sono di per sé pericolosi. Lo diventano quando si innestano su relazioni asimmetriche, reiterate, svalutanti. È lì che l’algoritmo interviene, restituendo un dato oggettivo».

I numeri sono impietosi: solo il 3% degli studenti coinvolti avrebbe contattato un esperto; il 9% non saprebbe a chi rivolgersi; il 31% cercherebbe aiuto in famiglia. Ma ben il 30,9% dei ragazzi coinvolti in chat ad alto rischio non sentiva il bisogno di chiamare nessuno, perché «si trattava solo di bravate tra amici».
Una comunità che osserva, non che spia

«NetGuardian non legge nomi, cognomi o contenuti specifici» precisa Teresa Camellini, responsabile del progetto «ma intercetta dinamiche, modelli linguistici e relazionali. È un sistema che misura l’atmosfera delle interazioni, offrendo agli adulti un parametro su cui riflettere, non uno strumento di controllo».

Il feedback delle scuole è stato molto positivo. Il 72% dei docenti ha riconosciuto NetGuardian come «uno strumento innovativo, efficace e non invasivo». Gli insegnanti non leggono le chat, ma ricevono una temperatura relazionaledella classe. Questo permette interventi pedagogici tempestivi, prima che si verifichi il danno.

Anche gli studenti, dopo l’esperienza, si sono detti in maggioranza disponibili a chiedere aiuto. Il 70% ha dichiarato che, se messo nella condizione di riconoscere il rischio, si rivolgerebbe a un adulto di riferimento: familiari (31%), amici (17,5%), esperti (11%). «Più il riferimento è vicino, più i ragazzi si fidano» riflette Zoppi. «Ma il punto è aiutarli a capire quando serve chiedere aiuto».
La sfida del futuro

Oggi NetGuardian è disponibile per tutte le scuole italiane che desiderino adottarlo. Basta farne richiesta alla Fondazione Carolina. Ma il progetto ha già dimostrato di poter andare oltre il monitoraggio.

Da esso è nato Re.Te. (Rescue Team), un servizio gratuito con tre équipe multidisciplinari pronte a intervenire in casi di disagio online. E, nel cuore di Milano, è attivo un centro terapeutico che accoglie adolescenti vittime o autori di cyberviolenza. «Li chiamiamo i profughi dell’oceano digitale» dice Zoppi. «Ragazzi che cercano rifugio, ascolto, cura. E che ci dicono che non possiamo limitarci alla prevenzione: dobbiamo essere presenti quando il dolore esplode».

La vera novità di NetGuardian non sta nella tecnologia, ma nel cambio di paradigma: non serve più aspettare la denuncia della vittima, perché l’algoritmo rileva il disagio in autonomia, nella rete di relazioni. «Siamo convinti» conclude Zoppi «che oggi non possa esistere formazione senza supporto. Le scuole devono poter contare su strumenti che le aiutino a vedere, a capire, a intervenire».

Una risposta adulta a una domanda dei ragazzi

Nel mondo della scuola, spesso l’innovazione fa paura. Ma qui si tratta di innovare per proteggere, non per sorvegliare. «La tecnologia non è il problema» sottolinea Giorgia Floriani, direttore generale di Fondazione TIM. «Lo diventa quando viene usata senza consapevolezza. Ma può essere anche parte della soluzione. NetGuardian è nato proprio per questo: per restituire alla tecnologia una funzione educativa».

A chi teme la “macchina che giudica”, i promotori rispondono con una visione più ampia: quella di un’intelligenza artificiale al servizio di un’intelligenza teorica, cioè di un pensiero critico, pedagogico, umano. «Non c’è nulla di fantascientifico in NetGuardian» conclude Zoppi. «Anzi, è uno strumento concreto, pragmatico, che restituisce agli insegnanti la possibilità di stare accanto ai ragazzi, non sopra di loro».

Bullismo e cyberbullismo non sono concetti astratti, ma ferite reali nel tessuto scolastico e sociale. Con NetGuardian, educatori, genitori e studenti hanno un alleato in più. Non per “spiare” i giovani, ma per camminare con loro, riconoscere i segnali, costruire relazioni più sane.

E, finalmente, dare una risposta vera a quella domanda che non possiamo più ignorare: «Quando sono nei guai… cosa devo fare?».