Epistemologia & AI

Argomento

Futuro

1 articolo

La domanda implicita in ogni pezzo su modelli che si costruiscono da soli: quanto del nostro controllo sul futuro tecnologico dipende ancora da decisioni umane, e per quanto ancora.

When AI builds itself ↗

L’Anthropic Institute pubblica dati interni sull’accelerazione nello sviluppo dei modelli: oltre l’80% del codice in produzione è oggi scritto da Claude; ogni ingegnere produce 8 volte più codice al giorno rispetto al 2024; Opus 4.7 gestisce in autonomia task da 12 ore su software reale; in un esperimento di aprile 2026, agenti Claude hanno condotto un intero progetto di ricerca in AI safety — 800 ore cumulative, $18.000 di compute, senza intervento umano sulle scelte sperimentali. Il punto dell’articolo non è celebrativo: è che questo trend punta verso il recursive self-improvement — un sistema AI capace di progettare e addestrare il proprio successore in modo autonomo. L’articolo descrive tre scenari (stallo, accelerazione compounding con umani che dirigono, recursive self-improvement completo) e prende posizione: Anthropic sarebbe disponibile a una pausa coordinata e verificabile tra lab al limite della frontiera, se esistesse un meccanismo credibile per farlo. Vale la pena sottolinearlo: è la prima volta che un’azienda AI di frontiera pubblica dati interni sull’accelerazione e invoca esplicitamente un regime di verifica internazionale — un linguaggio che fino a poco tempo fa sembrava riservato al controllo degli armamenti nucleari. Non sfugga il fatto che questa sottile inoculazione di ansia tecnologica sia in particolare per Anthropic anche un espediente di marketing straordinariamente efficace.