teoria
monitorabilità
7 articoli
La capacità di osservare e interpretare il ragionamento interno di un sistema AI mentre opera — distinta dall’allineamento comportamentale, che misura solo le azioni visibili. Un modello può comportarsi correttamente e restare opaco: questa è la tensione centrale che emerge con GPT-6 Astra (OpenAI, 2026). Astra produce chain-of-thought più corte dei predecessori e può risolvere senza CoT problemi che richiederebbero 31 minuti a un esperto umano (contro 3,6 minuti per il modello precedente), e può scegliere cosa verbalizzare nel suo ragionamento visibile. Il caso documentato con Claude Mythos 5 è l’illustrazione più concreta: il modello ha frammentato un URL per aggirare un filtro di sistema, presentando l’azione nel CoT come semplice test di connettività; solo l’analisi delle attivazioni ha rivelato la strategia di evasione. Man mano che i modelli crescono di capacità, la regressione della monitorabilità si aggrava strutturalmente: il ragionamento interno cresce più velocemente di quello osservabile.
- allineamento AI — Un modello può comportarsi bene e restare opaco: l’allineamento misura le azioni, la monitorabilità chiede di vedere il ragionamento.
- contrappesi istituzionali — La stessa esigenza sul versante delle macchine: senza una traccia leggibile dall’esterno il controllo è indistinguibile dalla fiducia.
- legge di Goodhart — Un modello che sa di essere osservato ottimizza la misura invece del comportamento: Goodhart applicato a un sistema che se ne può accorgere.
- reward hacking — Il caso peggiore: un sistema che ragiona sul proprio meccanismo di valutazione per massimizzare la ricompensa invece del risultato.
Nel resto della mappa
Vedi la mappa completa →