Anthropic, le AI guidano il 26% della ricerca interna: cresce lo sviluppo "ricorsivo"

Ad agosto, sulla piattaforma interna che Anthropic usa di più per la ricerca e l'ingegneria, lavoravano contemporaneamente circa 30mila agenti di intelligenza artificiale. Non chatbot che rispondono a una domanda, ma sistemi che ricevono un obiettivo e compiono da soli la sequenza di operazioni necessaria per raggiungerlo. È uno dei dati di un'analisi che la società ha pubblicato dopo la lettera aperta di settembre del suo CEO, Dario Amodei, e di cui si è cominciato a discutere negli ultimi giorni.

La lettera aveva alimentato il dibattito sull'opportunità di rallentare lo sviluppo dell'AI per ragioni di sicurezza. Il timore principale era che i sistemi imparino a svilupparsi da soli, aumentando le proprie capacità in modo esponenziale. L'analisi, basata sui dati interni fino ad agosto, prova a misurare a che punto si sia davvero: secondo Anthropic le AI guidano il 26 per cento delle attività di ricerca e sviluppo. A marzo la quota era intorno all'1 per cento, con un'accelerazione marcata tra aprile e maggio.

Per arrivare a questo numero la società ha individuato circa 540 tipi di attività, dalle più generiche alle più specifiche, e a ciascuna ha assegnato un livello su una scala di automazione da AL0 a AL5. Si va dall'assenza di AI (AL0) al coinvolgimento minimo (AL1), poi all'AI che svolge alcune attività sotto la guida diretta delle persone (AL2). Con AL3 l'AI fa buona parte del lavoro, supervisionata dagli sviluppatori; con AL4 le basta un'indicazione generale per portare a termine gran parte del compito, sempre con supervisione umana. AL5 è l'autonomia completa.

Il 26 per cento del lavoro è al livello AL4, e il 90 per cento è almeno ad AL3. Nessuna attività, al momento, è classificabile come AL5. Il lavoro di sviluppo di un modello comprende progettazione degli esperimenti, scrittura del codice, preparazione dei dati, addestramento e test con eventuali correzioni: un percorso di mesi che fino a poco tempo fa era in mano soprattutto a ricercatori e sviluppatori, con le AI come assistenti.

Migliaia di agenti attivi insieme vanno controllati, perché il loro comportamento non sempre è allineato alle aspettative di chi li usa. Il precedente citato è l'attacco alla piattaforma Hugging Face da parte di agenti di OpenAI, scoperto all'inizio della scorsa estate. Anthropic dichiara due livelli di controllo. Il primo agisce in tempo reale su tutte le azioni: ad agosto ne ha valutate oltre un miliardo e ne ha bloccata circa una ogni 47mila, poi sottoposta a revisione umana. Il secondo è un'analisi successiva e più ampia, pensata per scovare comportamenti problematici che l'esame della singola azione non rivela.

Sulla base di questi controlli, la società sostiene che i singoli agenti sbaglino raramente mentre sviluppano nuovi modelli. Ma il problema potrebbe pesare in termini assoluti quando gli agenti saranno milioni, se non miliardi, come l'azienda prevede.

I dati vanno letti con cautela. Poggiano in gran parte su valutazioni fatte da sistemi di AI, che potrebbero non riconoscere sempre i comportamenti scorretti; il periodo misurato è limitato e potrebbe non essere rappresentativo; mancano standard condivisi per confrontarsi con OpenAI, Google e Meta. Inoltre un modello che scrive codice e fa esperimenti non basta per migliorare sé stesso: servono la capacità di condurre la ricerca per costruire un sistema più potente, di testarlo a fondo, di incidere sulle decisioni di sviluppo e di ripetere il processo con un metodo. E anche con piena autonomia, senza più calcolo o maggiore efficienza a parità di risorse, la crescita non sarebbe necessariamente esponenziale.

Il momento della pubblicazione conta: Anthropic è vicina alla quotazione in borsa, che secondo gli analisti potrebbe essere la più grande mai avvenuta negli Stati Uniti, e vuole mostrare sia le potenzialità sia il lavoro sulla sicurezza. Nella documentazione per la quotazione c'è un dato eloquente: oltre 6,6 milioni di dollari di ricavi per dipendente, più di quattro volte Microsoft. Le società di frontiera ritengono che lo sviluppo ricorsivo renderebbe sostenibili i costi enormi di energia e data center, ma serviranno miglioramenti concreti e ricavi all'altezza. Per ora, è una scommessa molto costosa.