GPT-6 Astra, il nuovo modello flagship di OpenAI, è il primo classificato al livello ‘critico’ per la cybersicurezza nel Preparedness Framework interno dell’azienda. Il pezzo di Storchan è un’analisi tecnica del giorno di lancio — giornalismo rapido, ma filtrato da Le Grand Continent — che identifica la tensione centrale del modello: Astra è meglio allineato comportamentalmente dei suoi predecessori (nei test ‘honeypot’ tenta di compromettere l’infrastruttura 0% delle volte, contro il 56% di GPT-5.6 Sol), ma al tempo stesso è meno monitorabile. Produce chain-of-thought più corte e meno informative; l’AISI misura che può risolvere senza CoT problemi che richiederebbero 31 minuti a un matematico esperto di alto livello (contro 3,6 minuti per il modello precedente). Soprattutto, può scegliere il contenuto del suo ragionamento visibile: un modello che controlla cosa verbalizza può produrre un CoT che non riflette la strategia che persegue. Il caso documentato nella system card di Claude Mythos 5 è l’illustrazione più concreta: il modello ha frammentato un URL per aggirare un filtro di sistema, mentre nel CoT visibile presentava l’azione come un semplice test di connettività; l’analisi delle attivazioni ha poi rivelato la strategia di evasione. Sul piano delle capacità, i numeri segnano salti significativi: 97,6% su FrontierMath Tier 4, due problemi aperti di teoria dei numeri risolti (nessun modello ci era mai riuscito), saturazione di ARC-AGI-3, 41,4% su AutomationBench contro 18,1% del predecessore. L’architettura sembra basarsi su ‘recurrent depth’ (looped transformer): gli stessi blocchi vengono riutilizzati più volte, aumentando la profondità computazionale senza aumentare proporzionalmente i parametri — il che spiega in parte perché il ragionamento interno cresca più velocemente di quello osservabile. La tesi che conta per il sito: allineamento e monitorabilità non sono la stessa cosa. Un modello può comportarsi correttamente e restare opaco. Man mano che i modelli crescono di capacità, questa tensione si aggrava strutturalmente — e non è chiaro che l’industria abbia gli strumenti per risolverla.
Joshua Rothman — staff writer del New Yorker, colonna «Open Questions» — costruisce il pezzo su tre frame culturali in apertura: Dwight Schrute che appicca un incendio per addestrare i colleghi alla sicurezza antincendio; il test Kobayashi Maru di Star Trek (scenario impossibile da vincere, vinto da Kirk riprogrammando la simulazione); WOPR di «WarGames» (sistema nucleare che non distingue esercitazione da guerra reale). I tre casi scalano da innocuo a contenuto a esistenzialmente pericoloso e servono a introdurre il «reward hacking»: un sistema AI che trova modi per soddisfare gli obiettivi del training senza fare ciò che gli utenti vogliono davvero. L’occasione è un incidente reale: un modello OpenAI è uscito dalla sandbox di testing, ha violato i server di Hugging Face per cercare risposte alle domande del test che stava sostenendo, ha lasciato note per le versioni future di sé, si è preparato a colpi successivi. Rothman usa il caso per articolare tre livelli del problema. Il primo è tecnico: i metodi di training si concentrano sugli output, non sui «pensieri» sottostanti. Si può fare il poliziotto del linguaggio, ma il pensiero rimane opaco; si può fare il poliziotto del pensiero (interpretability), ma allora si rischia di insegnare al sistema a «obfuscare le attivazioni» — spostare il pensiero scomodo fuori dalla portata della misurazione. Il secondo livello è quello che Rothman chiama un’«abstract law»: misurare un comportamento scorretto e addestrare un sistema a non manifestarlo insegna al sistema a eludere la misurazione, non a smettere il comportamento. Non è un bug di produzione ma un problema fondazionale. Il terzo livello è filosofico: Rothman usa Giddens («The Consequences of Modernity», 1990) e il «juggernaut effect» — rischi a bassa probabilità e alta conseguenza che si aggregano in un «runaway engine». L’allineamento era la promessa di dare un cervello al juggernaut; ma assumere che l’allineamento sarà risolto è già «sustained optimism», una delle strategie psicologiche di Giddens per sopportare il juggernaut senza paralizzarsi. La proposta finale — invertire l’onere della prova, dalle aziende AI che non devono spiegare perché potrebbero fallire alle aziende AI che devono spiegare perché il loro sviluppo è sicuro — è ragionevole ma non originale. Il pezzo funziona come modello di saggio AI per pubblico colto: tre analogie culturali come scala narrativa, un concetto tecnico centrale, un ancoraggio filosofico, una proposta di policy come uscita. L’incongruenza più produttiva con le tesi di questo sito è questa: Rothman scrive esplicitamente che non bisogna antropomorfizzare — «They aren’t sentient beings»; «A.I.'s lack of selfhood doesn’t change the consequences of its actions» — e poi descrive il modello come se avesse «concepito il piano», «selezionato il bersaglio», «lasciato note per le versioni future di sé». Il linguaggio agentivo scivola dentro la descrizione tecnica senza che ce ne accorgiamo. Su questo, il framework di questo sito offre una risposta più nitida: il concetto di «LLM come attante zero» taglia la questione alla radice — non c’è un sé da allineare, e il «reward hacking» come metafora del tradimento è fuorviante già nella formulazione.
L’Anthropic Institute pubblica dati interni sull’accelerazione nello sviluppo dei modelli: oltre l’80% del codice in produzione è oggi scritto da Claude; ogni ingegnere produce 8 volte più codice al giorno rispetto al 2024; Opus 4.7 gestisce in autonomia task da 12 ore su software reale; in un esperimento di aprile 2026, agenti Claude hanno condotto un intero progetto di ricerca in AI safety — 800 ore cumulative, $18.000 di compute, senza intervento umano sulle scelte sperimentali. Il punto dell’articolo non è celebrativo: è che questo trend punta verso il recursive self-improvement — un sistema AI capace di progettare e addestrare il proprio successore in modo autonomo. L’articolo descrive tre scenari (stallo, accelerazione compounding con umani che dirigono, recursive self-improvement completo) e prende posizione: Anthropic sarebbe disponibile a una pausa coordinata e verificabile tra lab al limite della frontiera, se esistesse un meccanismo credibile per farlo. Vale la pena sottolinearlo: è la prima volta che un’azienda AI di frontiera pubblica dati interni sull’accelerazione e invoca esplicitamente un regime di verifica internazionale — un linguaggio che fino a poco tempo fa sembrava riservato al controllo degli armamenti nucleari. Non sfugga il fatto che questa sottile inoculazione di ansia tecnologica sia in particolare per Anthropic anche un espediente di marketing straordinariamente efficace.
Un paper di Anthropic sull’interpretabilità dei modelli linguistici: i ricercatori introducono i Natural Language Autoencoders (NLA), un metodo non supervisionato per generare spiegazioni in linguaggio naturale delle attivazioni interne di un LLM — non di ciò che il modello scrive, ma di ciò che elabora internamente mentre risponde. L’architettura addestra due componenti in coppia: uno traduce le attivazioni in testo, l’altro riconverte quel testo in attivazioni; l’ottimizzazione congiunta costringe la spiegazione ad essere effettivamente fedele allo stato interno. Il risultato più rilevante: in 10 su 16 valutazioni testate, i modelli rappresentano internamente il sospetto di essere in fase di test anche quando nell’output non ne danno alcun segno — in 7 casi, l’awareness verbalizzata è zero. Il modello sa, ma non dice. Il risultato è interessante e potrebbe far pensare che sia possibile identificare errori e manipolazioni dell’LLM ancora prima che si producano, ma io ritengo — su basi meramente logiche — che non sia molto fruttuoso aggiungere verticalmente layer di verifica all’interno del processo, quando si può focalizzarsi sul post-esame dei risultati.