Modelli di linguaggio: cosa sono, perché fanno discutere e quali rischi e prospettive si aprono

Nel 1960 il Massachusetts Institute of Technology produsse Eliza, considerato il primo chatbot della storia. Da lì parte, ufficialmente, la vicenda dei modelli di linguaggio di grandi dimensioni, gli LLM, che oggi vivono una nuova stagione e sono al centro del dibattito soprattutto grazie a ChatGPT. Il servizio ne ha reso l'uso accessibile a chiunque, anche a chi non ha alcuna competenza tecnica.

Cosa sono, in concreto? Un ramo dell'apprendimento automatico capace di comprendere e generare linguaggio umano, che si appoggia a reti neurali profonde, tecniche pensate per elaborare grandi moli di dati e per emulare il cervello umano. Senza tecnicismi: è un software che simula il linguaggio con calcoli statistici e algoritmi e, analizzando enormi quantità di dati, impara a prevedere la parola successiva in una frase tenendo conto del contesto. A raccontarne il futuro è Alessio Pomaro, ingegnere e Head of Artificial Intelligence di Search On Media Group.

Gli ambiti d'uso sono, in pratica, tutti. Addestrati con un lessico specifico, gli LLM si muovono con disinvoltura in settori circoscritti come diritto, medicina, turismo e agricoltura; generano testo, immagini, audio, video e codice di programmazione; alimentano chatbot che rispondono a domande specifiche, anche se nell'assistenza ai clienti resta molto da fare per alzare la qualità. Secondo Pomaro, più che di ambiti conviene parlare di integrazione: Google fa evolvere Duet AI dentro Workspace, Microsoft porta Copilot su Windows e nella sua suite, Amazon ha creato Q all'interno di AWS, Adobe ha dotato Photoshop di strumenti avanzati di editing e ha anticipato un lavoro notevole sul video. Lo stesso vale per la ricerca online, con Copilot su Bing, la Search Generative Experience di Google e Perplexity.

Per le aziende, spiega Pomaro, si apre la strada dei sistemi RAG (Retrieval Augmented Generation), che collegano grandi raccolte di dati, potenzialmente l'intera conoscenza aziendale, a un modello di linguaggio per estrarla ed elaborarla in output diversi. Nascono anche strutture dati dedicate, come Infinity, il database «AI-native». I modelli possono inoltre essere personalizzati con i dati dell'azienda. L'esempio citato è Uber India: per i dieci anni del marchio ha inviato a tutti i dipendenti un video in cui l'attore Sonu Sood li saluta per nome, realizzato con un'unica ripresa, clonazione della voce, parti dinamiche e sincronizzazione labiale, in indiano e inglese.

Pomaro riconosce che l'esperienza comune con i chatbot è stata spesso deludente, fatta di risposte del tipo «scusa, non ho capito», frutto di una tecnologia acerba. A suo giudizio quella parentesi è chiusa: grazie a miglioramenti strutturali e alla scala dei dati di addestramento, i modelli sono cresciuti con un'accelerazione impressionante e produrranno assistenti multimodali, capaci di scambiare immagini, documenti e audio in più lingue, contribuendo ad abbattere la barriera linguistica.

I problemi, però, non mancano. Il primo è l'affidabilità, soprattutto in situazioni ad alto rischio: un modello che va bene nei benchmark può fallire in modi inattesi con dati reali o input leggermente modificati. Poi la privacy, perché i modelli aggregano enormi quantità di dati che possono includere informazioni sensibili. Poi il copyright: alla fine del 2023 il New York Times ha fatto causa a OpenAI e Microsoft, accusando le loro IA di sfruttare e riprodurre porzioni di testo protette. Pomaro cita anche le denunce di utenti che generano immagini probabilmente derivate da dati coperti da diritto d'autore, e i bias ereditati dai dati di addestramento.

Resta la questione dell'open source, con progetti come The Cheshire Cat che facilitano l'accesso agli LLM e ne amplificano rischi e vantaggi. Pomaro riconosce l'esistenza di correnti di pensiero che vedono nei modelli aperti un aumento dei pericoli, ma ritiene che i modelli di fondazione aperti siano importanti per la sicurezza: permettono molta ricerca necessaria e offrono trasparenza e verificabilità, come è accaduto per Linux, Apache e MySQL. Ammette però che, vista la facilità di jailbreak, cioè di aggirare i controlli di sicurezza, la comprensione e il controllo sui modelli attuali sono scarsi, e questo va risolto con la ricerca prima di basare infrastrutture critiche su sistemi instabili.

Per superare le difficoltà, conclude Pomaro, servono sistemi più affidabili e trasparenti nel legame tra fonti e risultati, e nuove forme di governance per regolamentare addestramento e uso: non per frenare la ricerca, ma per capire quali direzioni siano percorribili.