# L'AI che costruisce se stessa: l'auto-miglioramento ricorsivo dopo il caso Coxon 19 ottobre 2026 — Alessandro Caprai --- Tutti abbiamo parlato del ricercatore che si è dimesso da Anthropic. Per giorni, a settembre, i titoli hanno inseguito le percentuali di rischio, la parola superintelligenza, la fine dell'umanità. Anch'io [ne ho scritto a caldo](/it/editoriali/post/si-dimette-ricercatore-di-antrhopic-preoccupato-dalle-ai-autoaggiornanti), perché quella notizia meritava di essere raccontata. Oggi però, passato il clamore, credo che la riflessione debba diventare più tecnica e, se possibile, più onesta. Perché c'è un documento che spiega meglio di qualunque titolo che cosa stava denunciando Jacob Coxon: lo studio di Anthropic sull'**auto-miglioramento ricorsivo**, pubblicato tre mesi prima delle sue dimissioni. In Italia lo hanno letto in pochi. Proviamo a leggerlo insieme. > **In breve.** L'auto-miglioramento ricorsivo, in inglese *recursive self-improvement*, è lo scenario in cui un sistema di intelligenza artificiale diventa capace di progettare e sviluppare da solo il proprio successore. Secondo lo studio di Anthropic «When AI builds itself», pubblicato a giugno 2026 e aggiornato a settembre, non ci siamo ancora e non è uno scenario inevitabile. Ma l'AI scrive già oltre l'80% del codice all'interno di Anthropic stessa, e il ruolo umano si sta riducendo a due compiti: dare la direzione e verificare. Il primo limite che incontreremo, scrivono gli autori, sarà proprio la nostra capacità di verificare. ## Che cos'è l'auto-miglioramento ricorsivo Partiamo dalle parole, perché qui si fa molta confusione. Quando sentiamo dire «un'AI che migliora se stessa» immaginiamo un programma che di notte riscrive il proprio cervello e al mattino si sveglia più intelligente. È un'immagine potente, ma non è quella che descrive lo studio. La definizione di Anthropic è più sobria e, lasciatemelo dire, proprio per questo più inquietante: un sistema di AI «capace di progettare e sviluppare in modo completamente autonomo il proprio successore». Non il modello che modifica se stesso, ma il modello che fa il lavoro delle persone che costruiscono il modello successivo. Scrive il codice, lo corregge, propone gli esperimenti, li esegue, legge i risultati e decide il passo dopo. Nel mio articolo di settembre scrivevo che i modelli attuali non possono modificare il proprio codice sorgente. Resta vero alla lettera. Ma lo studio ci costringe a cambiare domanda: non conta tanto se un modello può modificare se stesso, conta quanta parte del lavoro che porta al modello successivo è già fatta da un modello. E la risposta, come vedremo, è: molta più di quanto pensassimo. ## Le cinque tappe: dalla persona al ciclo chiuso Nello studio c'è uno schema che vale più di molte pagine, e che provo a raccontarvi a parole. Mostra cinque tappe, una sotto l'altra. In ognuna, gli strumenti a disposizione producono un nuovo modello di AI, e quel modello diventa a sua volta uno strumento della tappa successiva. 1. **La persona e il computer.** È il mondo di qualche anno fa: ricercatori e ingegneri che scrivono codice a mano e costruiscono il modello. 2. **La persona, il computer e il chatbot.** Il modello appena nato entra nel lavoro di chi costruisce il prossimo, come assistente da interrogare. 3. **La persona, il computer, il chatbot e l'agente.** L'AI non risponde più soltanto: esegue compiti, scrive codice, lancia prove. 4. **La persona e una squadra di agenti.** Non un assistente, ma molti agenti che lavorano in parallelo, coordinati da un essere umano. 5. **Il ciclo chiuso.** Nell'ultima tappa la persona non c'è più. Un agente coordina centinaia di altri agenti, il loro lavoro produce il modello successivo, e quel modello torna all'inizio del ciclo per costruire il prossimo. Quest'ultima immagine è l'auto-miglioramento ricorsivo. Ed è qui che bisogna essere precisi: lo studio è chiaro sul fatto che la quinta tappa non è ancora arrivata. Da quello che descrive, però, il lavoro dentro Anthropic somiglia già molto alla quarta. E il passaggio da una tappa all'altra non è stato un salto improvviso, è stato un lento scivolamento. Ogni mese un po' più di lavoro passa dalle persone alle macchine. ## A che punto siamo davvero: i numeri dello studio I numeri che Anthropic pubblica su se stessa sono, a mio avviso, più eloquenti di tutti i titoli usciti a settembre. Ne riporto alcuni, così come li scrive lo studio. - **Oltre l'80% del codice** integrato nella base di codice di Anthropic, a maggio 2026, è stato scritto da Claude, il modello dell'azienda. - Gli ingegneri di Anthropic **producono circa otto volte più codice** di quanto facessero tra il 2021 e il 2025. - La durata dei compiti che un modello riesce a portare a termine da solo **raddoppia circa ogni quattro mesi**, secondo le misurazioni dell'organizzazione indipendente METR. Questo significa che se un Agente oggi riesce a lavorare su un Task per 1h di seguito, tra 4 mesi riuscirà a farlo per 2h di seguito. Fino a poco tempo fa il raddoppio della durata di un compito richiedeva un intervallo di sette mesi. - In un esperimento su un problema di ricerca, due ricercatori in una settimana hanno colmato circa il **23%** della distanza dalla soluzione. Gli agenti di AI sono arrivati al **97% nello stesso tempo**. - Con l'aggiornamento di settembre, i tassi di successo dei modelli su tutti i tipi di compito misurati dallo studio si avvicinano al **90%**. C'è poi una frase, legata a quell'esperimento, che da sola racconta il cambiamento: «*Direction-setting was the only meaningful role a human played*». Dare la direzione è stato l'unico ruolo davvero significativo svolto da un essere umano. Per onestà va detto anche il resto, perché lo studio lo dice con chiarezza. Gli autori scrivono: «*We are not there yet, and recursive self-improvement is not inevitable*». Non ci siamo ancora, e l'auto-miglioramento ricorsivo non è uno scenario inevitabile. E quando citano il sondaggio interno secondo cui i dipendenti si sentono circa quattro volte più produttivi, ammettono che il guadagno reale è stato probabilmente un po' inferiore. Non è un manifesto apocalittico. È un'azienda che misura quanto sta delegando, e si accorge che sta delegando molto, e sempre più in fretta. ## Il filo che lega lo studio alle dimissioni di Jacob Coxon Mettiamo in fila le date, perché da sole raccontano già molto. 1. **Giugno 2026.** Anthropic pubblica «When AI builds itself», firmato da Marina Favaro e Jack Clark. 2. **8 settembre 2026.** Jacob Coxon, 27 anni, ricercatore che aveva lavorato sull'addestramento dei modelli prima in OpenAI e poi in Anthropic, si dimette e spiega pubblicamente che i laboratori stanno correndo verso un'intelligenza capace di migliorarsi da sola, senza garanzie sufficienti. 3. **Pochi giorni dopo.** Lo stesso Dario Amodei, alla guida di Anthropic, invita pubblicamente a rallentare il ritmo con cui crescono le capacità dei modelli. 4. **18 settembre 2026.** Lo studio viene aggiornato con dati ancora più netti. Vedete il punto? Coxon non ha rivelato un segreto. Ha dato un volto, e una scelta personale, a una tendenza che l'azienda aveva già messo per iscritto. E le sue richieste, un'intesa tra i laboratori per non spingersi direttamente verso l'auto-miglioramento ricorsivo e una forma di supervisione internazionale, non sono lontane da quelle con cui si chiude lo studio: avere la possibilità di rallentare, o perfino di mettere in pausa per un periodo lo sviluppo dei sistemi più avanzati, con strumenti che permettano di verificare che anche gli altri lo stiano facendo davvero. E coinvolgere nella decisione anche chi non lavora nelle aziende di AI. A settembre il racconto era quello del ricercatore coraggioso contro l'azienda che corre. Letta oggi, la storia è un'altra, e secondo me più seria: c'è un fenomeno che chi ci lavora dentro vede con grande chiarezza, e ci sono due modi diversi di reagire. Andarsene e dare l'allarme, oppure misurarlo, pubblicarlo e chiedere regole comuni. Non si escludono, si completano. ## Il vero collo di bottiglia siamo noi Ed eccoci alla parte che, da chi lavora ogni giorno con questi strumenti, considero la più importante di tutto lo studio. È scritta quasi di passaggio, in un paragrafo sul futuro del lavoro: se le persone non riescono a rivedere il codice alla stessa velocità con cui Claude lo produce, «*human review will become the bottleneck to AI development*». La revisione umana diventerà il collo di bottiglia dello sviluppo dell'intelligenza artificiale. Fermiamoci un attimo su questa frase. Una persona legge con attenzione, nella migliore delle ipotesi, qualche centinaio di parole al minuto, e molte meno se deve davvero capire un codice o un contratto. Un modello ne produce migliaia nello stesso minuto, senza stancarsi, a qualunque ora. Non è una differenza che si colma leggendo più in fretta o facendo più straordinari. È un'asimmetria strutturale tra la velocità con cui l'AI produce e la lentezza con cui un essere umano può verificare. È esattamente la traiettoria che lo studio descrive su scala industriale. In Anthropic un revisore automatico basato su Claude controlla già ogni modifica prima che venga integrata, e secondo l'azienda avrebbe intercettato circa un terzo degli errori all'origine di vecchi incidenti. Nello scenario estremo, quello del ciclo chiuso, agli esseri umani resterebbero tre compiti: sorveglianza, validazione e verifica. Ed è qui che il discorso smette di riguardare soltanto i laboratori della California. ## Che cosa significa per le aziende italiane Nessuna impresa italiana sta per costruire una superintelligenza, ed è giusto dirlo per non alimentare paure inutili. Ma l'asimmetria tra la velocità dell'AI e la lentezza della verifica umana è già entrata nei nostri uffici. La vedo nelle aziende che accompagno e nelle aule di formazione: report generati in trenta secondi e approvati in dieci, documenti riassunti e mai riletti, codice integrato perché tanto funziona. Il famoso "Divieto di Fiducia Cieca" viene del tutto bypassato da un oramai "Acclamata Fiducia Cieca" e questo è un grosso problema. C'è un nome per questo atteggiamento: **bias da automazione**, la tendenza a fidarsi più del dovuto di ciò che produce una macchina. Non è un'ossessione da accademici. L'AI Act europeo, all'[articolo 14](https://artificialintelligenceact.eu/it/article/14/), chiede espressamente che chi sorveglia un sistema ad alto rischio sia messo in condizione di restare consapevole proprio di questa tendenza. E l'obbligo di alfabetizzazione sull'intelligenza artificiale, di cui ho parlato nel mio [punto sull'AI Act](/it/editoriali/post/l-ai-act-e-la-rivoluzione-dell-alfabetizzazione-due-anni-dopo-facciamo-il-punto), serve anche a questo: non a imparare a scrivere un prompt perfetto, ma a capire quando non fidarsi della risposta. Il punto, però, è pratico prima che normativo. Se la verifica umana è il nuovo collo di bottiglia, la competenza che conta non è più soltanto saper usare l'AI. È saper progettare la verifica. In concreto, significa: 1. **decidere prima, non dopo**: stabilire che cosa rende buono un risultato prima di chiedere all'AI di produrlo; 2. **verificare in base al rischio**: rileggere tutto ciò che è critico, controllare a campione il resto, e sapere perché si fa così; 3. **far controllare le macchine alle macchine**, dove si può: controlli automatici, verifiche incrociate, regole che si accorgono da sole quando qualcosa non va; 4. **chiedere risultati piccoli e verificabili**, con le fonti e i punti incerti dichiarati, invece di grandi blocchi da approvare in fiducia. Chi sviluppa software con gli agenti di AI ci è arrivato per primo, ed è per questo che ne parlo spesso anche nella sezione [vibe coding](/it/vibe-coding). Ma vale per un ufficio legale, per un reparto marketing, per un'amministrazione. ## Le domande che mi fanno più spesso **L'AI oggi si migliora già da sola?** No, non nel senso pieno del termine. Secondo lo stesso studio di Anthropic non ci siamo ancora: le persone decidono ancora la direzione e approvano il lavoro. Ma una parte molto grande del lavoro tecnico che porta ai nuovi modelli è già svolta dall'AI. **Che differenza c'è tra auto-miglioramento ricorsivo e superintelligenza?** L'auto-miglioramento ricorsivo è un processo: l'AI che costruisce l'AI successiva. La superintelligenza è un possibile punto di arrivo: un sistema più capace degli esseri umani in quasi tutti i compiti. Il timore di chi, come Coxon, ha lanciato l'allarme è che il primo acceleri moltissimo l'arrivo della seconda. **Che cosa può fare un'azienda, oggi?** Formare le persone non solo a usare l'AI, ma a verificarla. E ripensare i processi in modo che il controllo umano sia progettato, non lasciato alla buona volontà di chi ha poco tempo. ## Quello che ci lascia questo studio L'auto-miglioramento ricorsivo non sarà un evento che accade all'improvviso, con un titolo in prima pagina. È una curva, e ci siamo già sopra. Ogni mese deleghiamo un po' di più, e ogni mese il nostro ruolo si sposta un po' più in alto: meno esecuzione, più direzione, più verifica. Le dimissioni di Jacob Coxon ci hanno ricordato che questa curva ha un'estremità che fa paura. Lo studio di Anthropic ci ricorda qualcosa di meno spettacolare ma forse più urgente: il primo limite che incontreremo non sarà tecnico, sarà umano. Sarà la nostra capacità di capire, in tempo, che cosa stiamo approvando. Per questo credo che la domanda da farsi, in un laboratorio della Silicon Valley come in una piccola azienda italiana, non sia «quanto può fare l'AI da sola?», ma «quanto riusciamo ancora a verificare di ciò che fa?». Finché la risposta è abbastanza, l'intelligenza artificiale resta lo strumento più straordinario che abbiamo mai avuto tra le mani. Il giorno in cui la risposta diventa non più, dovremo avere il coraggio di rallentare. --- **Fonte principale** Marina Favaro e Jack Clark, [«When AI builds itself»](https://www.anthropic.com/institute/recursive-self-improvement), The Anthropic Institute, giugno 2026, aggiornato il 18 settembre 2026. Le citazioni in inglese e i dati di questo articolo vengono da questo studio, salvo dove indicato. **Per approfondire** - [Si dimette ricercatore di Anthropic preoccupato dalle AI autoaggiornanti](/it/editoriali/post/si-dimette-ricercatore-di-antrhopic-preoccupato-dalle-ai-autoaggiornanti), il mio articolo di settembre sul caso Coxon. - [Regolamento europeo sull'intelligenza artificiale, articolo 14](https://artificialintelligenceact.eu/it/article/14/), sulla sorveglianza umana.