“Non posso insultare quel partito”: i rifiuti dell’AI svelano bot automatici sotto i post dei politici italiani

Sotto un post in cui Matteo Salvini ricorda la strage del Bataclan compaiono commenti insoliti. Non sono insulti né applausi, ma risposte in inglese in cui un sistema di intelligenza artificiale spiega di non poter scrivere un messaggio rivolto a insultare un partito politico e offre in cambio una sintesi neutrale della proposta. Sono testi che non dovevano finire online: dovevano restare un passaggio interno di un meccanismo automatico.

Il caso non riguarda solo la Lega. Messaggi anomali sarebbero comparsi anche sotto i post di Carlo Fidanza, europarlamentare di Fratelli d'Italia, e di Camilla Laureti, europarlamentare del Partito Democratico. Account diversi avrebbero pubblicato risposte identiche, apparentemente prodotte da sistemi di AI che, invece del commento richiesto, hanno opposto un rifiuto. In uno degli esempi si legge che il sistema non può scrivere un messaggio per convincere specifici eurodeputati a sostenere una proposta legislativa, ma può aiutare a redigere una sintesi neutrale. Una formulazione compatibile con le regole di sicurezza dei principali modelli linguistici, che possono rifiutare richieste di persuasione politica mirata.

Il meccanismo, secondo la ricostruzione, sembra semplice. Un programma legge i post dei politici, ne invia il contenuto a un modello di AI tramite un'interfaccia di programmazione, la cosiddetta API, e pubblica in automatico la risposta. Se il modello rifiuta, il software dovrebbe fermarsi. Se manca questo controllo, anche il rifiuto viene pubblicato e tradisce la presenza dell'automazione.

Resta la questione della lingua: i messaggi sono tutti in inglese, anche se compaiono sotto post di politici italiani. Una spiegazione possibile è che i sistemi usino istruzioni in inglese per chiedere ai modelli commenti in italiano, e che il modello, nel rifiutare, risponda nella lingua delle istruzioni. Un'altra è che i rifiuti arrivino da un servizio intermedio configurato in inglese. Questo dettaglio non permette di stabilire chi gestisca gli account, ma potrebbe dare un indizio sull'architettura dei sistemi usati.

La Lega ha reagito con una nota in cui definisce inquietante che qualcuno possa usare eserciti di bot e strumenti di AI per attaccare gli avversari e inquinare il confronto democratico. Il partito dice di voler sapere chi sia dietro gli account, chi li gestisca e con quali obiettivi, e aggiunge: «Evidentemente la Lega dà fastidio a qualcuno». Il senatore leghista Claudio Borghi Aquilini ha osservato che è bastato un malfunzionamento per scoprire che, al posto degli hacker russi, ci sono «italianissimi personaggi» a inquinare il dibattito con schiere di bot.

Sul possibile legame con il blackout di Microsoft 365 del 12 e 13 novembre l'esperto di cybersecurity Alessandro Orlowski invita alla cautela. A suo avviso i gestori delle reti potrebbero aver usato vecchie integrazioni API, trovandosi a interagire con modelli più recenti dotati di guardrail più avanzati, che rifiutano richieste prima accettate. Per lui è la tipica conseguenza dell'aggiornamento di un servizio API, in cui le versioni più permissive sono state sostituite.

L'ipotesi è compatibile con alcune date. Il 7 ottobre OpenAI ha aggiornato chat-latest, un identificatore API che può indirizzare le richieste verso versioni più recenti senza modifiche al software. Il 23 ottobre ha disattivato alcuni modelli precedenti, costringendo gli sviluppatori a scegliere alternative. Il 29 ottobre è arrivata una revisione del Model Spec, il documento che fissa le regole di comportamento, che anche prima prevedeva il possibile rifiuto di richieste di persuasione politica mirata. Anche Anthropic ha introdotto nuovi modelli Claude nelle ultime settimane.

Mancano però elementi per dire che uno di questi aggiornamenti abbia causato i messaggi. E la disattivazione di un modello produce normalmente un errore API, non un passaggio automatico a un altro sistema. Che messaggi simili compaiano sotto esponenti di maggioranza e opposizione non dimostra una rete unica e coordinata, né consente di attribuirla a un'organizzazione politica. Resta aperto chi controlli gli account e con quali obiettivi.