Anthropic, l’azienda di Claude, ha pubblicato un documento che vale la pena leggere. Si intitola When AI builds itself e contiene una frase che non ti aspetti da una società che si sta preparando a sbarcare in Borsa con una valutazione record (quasi mille miliardi di dollari) : «Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia, pensiamo che sarebbe probabilmente una buona cosa».
Indice degli argomenti
I rischi dell’intelligenza artificiale, si può mettere in pausa lo sviluppo?
Se fosse possibile…Rileggete la frase. A scriverla non è un filosofo, non è un regolatore europeo, non è un ricercatore accademico con cattedra e nessun competitor da temere. È una delle aziende che corre più forte nel settore AI — quella che, secondo i dati che essa stessa rende pubblici, ha oggi oltre l’80% del proprio codice scritto dall’intelligenza artificiale, e i cui ingegneri producono in media otto volte più codice al giorno rispetto a due anni fa.
Antonella Grassigli, managing partner di Doorway, piattaforma che è tra gli investitori di Anthropic, su Linkedin ha segnalato la contraddizione: «A chiedere una pausa è chi corre più veloce. Un’azienda che vale quasi un trilione di dollari, in cui oggi oltre l’80% del codice viene scritto direttamente dall’intelligenza artificiale».
Il documento di Anthropic non è certo una mea culpa né un esercizio di comunicazione responsabile per placare i regolatori. È qualcosa di più scomodo e rilevante: una mappa di dove siamo arrivati, con dati interni che Anthropic non aveva mai reso pubblici.
La traiettoria di sviluppo di Claude
La traiettoria è questa. Claude Opus 4.6 completa autonomamente task che richiedono dodici ore di lavoro a un ingegnere umano. Il modello più avanzato — Mythos Preview, ancora non rilasciato al pubblico — in un benchmark di ricerca interna ha raggiunto un’efficienza 52 volte superiore al punto di partenza. Per calibrare il dato: un ricercatore umano esperto, sullo stesso task, arriva a quattro volte in quattro-otto ore. In aprile 2026, agenti Claude hanno condotto in autonomia un intero progetto di ricerca su un problema aperto di AI safety — ipotesi, test, iterazioni. I ricercatori umani hanno scelto il problema. Tutto il resto lo ha fatto l’AI.
La direzione ha un nome: recursive self-improvement, auto-miglioramento ricorsivo. Il momento in cui sarà l’AI a progettare la propria versione successiva, senza che un ingegnere umano scriva una riga. Anthropic dice che non ci siamo ancora, ma dice anche che potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia pronta ad affrontarlo.
Perché Anthropic non rallenterà da sola lo sviluppo dell’AI
Ed è qui che il documento smette di essere un report tecnico.. Perché Anthropic non si ferma alla descrizione. Fa un passo ulteriore, raro per un’azienda con una quotazione in Borsa all’orizzonte: dice che rallentare sarebbe probabilmente utile, ma aggiunge che non lo farà da sola e spiega perché. Una pausa unilaterale, scrivono, avrebbe solo effetto sulla leadership del mercato. Non creerebbe quel cambiamento globale che manca. Servirebbe un accordo tra tutti i principali laboratori, in più Paesi, con meccanismi di verifica reciproca comparabili ai trattati sul controllo degli armamenti — costruiti su tecnologie molto più facili da monitorare di un training run AI. Insomma, una sorta di denuclearizzazione temporanea.
È un vicolo cieco descritto con lucidità disarmante. E chi lavora nell’innovazione — come manager, come founder, come investitore — lo riconosce immediatamente per quello che è: la dinamica del prisoner’s dilemma applicata all’AI di frontiera. Tutti preferirebbero che qualcuno rallentasse. Nessuno vuole farlo per primo.
Che cos’è il dilemma del prigioniero
Il dilemma del prigioniero è un problema della teoria dei giochi formalizzato negli anni ’50 da Merrill Flood e Melvin Dresher presso la RAND Corporation, un think tank specializzato in strategia e analisi decisionale. Questa è la sua formulazione più nota, dovuta ad Albert W. Tucker
Due sospetti vengono arrestati per un crimine e interrogati separatamente. Il procuratore offre loro un accordo:
* Se entrambi restano in silenzio (cooperano tra loro), vengono condannati solo per un reato minore e ricevono 1 anno di prigione ciascuno.
* Se uno confessa e l’altro resta in silenzio, il primo (che tradisce) viene rilasciato, mentre l’altro riceve 3 anni di prigione.
* Se entrambi confessano (si tradiscono a vicenda), ricevono entrambi 2 anni di prigione.
Dal punto di vista puramente razionale, il miglior comportamento sarebbe cooperare (ossia non confessare), così entrambi ricevono solo 1 anno. Tuttavia, se ogni prigioniero pensa individualmente, la strategia dominante è tradire, perché garantisce una condanna minore in ogni scenario.
Il risultato finale? Entrambi tradiscono e ricevono 2 anni di prigione, un esito peggiore rispetto alla cooperazione.
Questo è il cuore del dilemma: l’egoismo razionale porta a un esito peggiore rispetto alla cooperazione.
Fare innovazione, riflettendo sugli impatti sociali non è un lusso
Antonella Grassigli ha scritto una cosa che condivido: «Non credo che la risposta giusta sia fermare l’innovazione. Ma accompagnarla con una riflessione seria su governance, sicurezza e impatti economici e sociali non è un lusso: è una necessità». E ha aggiunto un dettaglio che conta, per chi valuta le aziende in questo settore: in Anthropic la safety non è «un vincolo esterno, ma parte dell’identità dell’azienda».
È una distinzione reale, non retorica. Le aziende che trattano la governance come un costo da minimizzare e quelle che la incorporano nel modello di business si comportano diversamente quando si trovano sotto pressione. E la pressione, in questo settore, non mancherà.
La proposta irrealistica di Anthropic è un allarme
L’innovazione si ferma? No. Non si è mai fermata, e non inizierà adesso. Ma si può decidere come costruirla. Il contributo più onesto del documento di Anthropic non è la proposta di pausa — che è irrealistica nelle condizioni attuali — ma il fatto di avere messo per iscritto, con i propri dati interni, dove porta questa traiettoria. E di averlo fatto prima che fosse obbligatorio farlo. Di fatto suonando un nuovo allarme sulle possibili derive dell’intelligenza artificiale lasciata a se stessa.
Sta a chi fa innovazione — dentro le aziende, nelle startup, tra gli investitori — decidere che cosa e quando vale la pena fare perché l’innovazione non sia solo una corsa in cui conta solo la velocità e il profitto ma un’attività umana attenta alle esigenze e al rispetto degli umani. Oggi se ne parla per l’intelligenza artificiale, presto cominceremo a parlarne per il quantum computing. E ogni founder o innovation leader non potrà fare a meno di porsi queste questioni.
