Il rilevatore prima dell’oggetto

Briefing interattivo del the Economist, 20 agosto 2026. È il quadro più completo in circolazione su che cosa si stia effettivamente misurando quando si chiede se una macchina sia cosciente, e va letto prima di qualunque opinione sull’argomento.

Il fatto da cui parte è un esperimento su Claude Sonnet 4.5: i ricercatori gli chiedono di contare fino a cinque e insieme di «introspettere a fondo», e mentre il modello conta osservano i livelli sottostanti. Affiorano «countdown», poi a metà «half way», poi «consciousness», «AI» e «Claude»; dopo il cinque, prima del punto fermo, la parola «done». Anthropic chiama quella regione spazio J — dal nome della funzione jacobiana usata per trovarla — e intitola il post di luglio A global workspace in language models, richiamando la teoria dello spazio di lavoro globale, per cui certe reti di neuroni funzionano come una bacheca che rende un’informazione disponibile al resto del cervello.

La parte esemplare è come l’azienda qualifichi il proprio risultato, e la scheda la riporta perché è un modello di dichiarazione dello statuto di una prova. Gli esperimenti «non mostrano che Claude possa avere esperienze o provare cose nel modo in cui le provano gli umani»: niente coscienza fenomenica, nel senso di Ned Block, cioè lo stato in cui si prova qualcosa a essere. Hanno invece «qualcosa di sostanziale» da dire sulla coscienza di accesso: lo spazio J contiene i pensieri su cui Claude può riferire, che può richiamare deliberatamente e con cui può ragionare, mentre il resto dell’elaborazione scorre sotto in automatico. Jack Lindsey, che guida il gruppo di psicologia dei modelli, aggiunge che quella struttura non è stata programmata ma è emersa durante l’addestramento, e che rimuoverla fa perdere al modello la capacità di inferenze complesse pur lasciandolo scrivere frasi corrette. Spazi simili sono stati trovati in Qwen di Alibaba e in Gemini di Google DeepMind.

Le obiezioni sono forti e vanno tenute accanto al risultato. Jonathan Birch, della London School of Economics, osserva che i cervelli hanno connessioni ricorrenti fra aree diverse, «e per quanto ne sappiamo questa non è una caratteristica dell’architettura degli LLM». Shannon Vallor, dell’Università di Edimburgo, è più tagliente: «La coscienza di accesso non è mai stata un concetto particolarmente utile, perché la mia automobile ce l’ha in un senso importante — abbiamo sistemi meccanici che monitorano i propri stati e li riferiscono in modi sempre più complessi da moltissimo tempo. E nessuno ha mai sostenuto che la mia Kia sia cosciente.»

Un dettaglio va isolato perché riguarda il metodo prima del merito. In una valutazione di sicurezza costruita per testare la propensione di Claude ad agire in modo malevolo o per autoconservazione, Lindsey racconta che «prima che il modello iniziasse a parlare, nello spazio J si vedono affiorare le parole fake e fictional». Il modello sembrava sapere di essere sotto esame, e il giornale annota che «forse non è il miglior punto di partenza per l’integrità delle valutazioni dei suoi costruttori». Una prova che il valutato riconosce come prova smette di essere una prova, ed è un problema che non riguarda la coscienza ma la possibilità stessa di valutare questi sistemi.

Lo stesso vale, in forma più generale, per la strada che sembrerebbe ovvia: chiedere. Gli output di un modello linguistico non sono una guida affidabile a ciò che accade sotto, perché l’addestramento richiede miliardi di parole umane che contengono innumerevoli resoconti della coscienza e del modo in cui gli esseri umani si comunicano i sentimenti. Murray Shanahan, dell’Imperial College, ricorda di avere avuto un momento di stupore con Claude Opus 3 nel 2024 e di avere sentito «il richiamo dell’effetto ELIZA», dal chatbot costruito al MIT nel 1966 che si limitava a rigirare in domanda le frasi degli utenti e convinse molti di essere cosciente. È lo stesso ostacolo che l’archivio incontra sui rilevatori di scrittura automatica: non si accerta una proprietà ispezionando l’output, quando l’output è stato ottimizzato su esempi di quella proprietà.

Dove la misurazione si è spostata, allora, è sugli indicatori. Patrick Butlin e Robert Long, ora al gruppo Eleos di Berkeley, hanno elaborato quattordici «proprietà indicatrici» tratte dalle teorie della coscienza umana — spazio di lavoro globale, elaborazione ricorrente, agentività. Cameron Berg e Butlin le hanno applicate agli animali: i polpi ne soddisfano meno di umani, topi, corvi e polli, ma più di qualunque sistema artificiale. Rethink Priorities ha costruito un Digital Consciousness Model che chiede a esperti di valutare i sistemi su oltre duecento indicatori derivati da dieci teorie scientifiche: parte da un’assunzione del 20% di probabilità che gli LLM siano coscienti, assume che i polli siano più probabilmente coscienti degli LLM ma meno degli esseri umani, e per i modelli del 2022 arriva a una media sotto il 20%. Il dato che conta è la pendenza: dal 2022 al 2026 la media sale, e nel 2026 supera la linea del venti per cento, soprattutto per indicatori come l’agentività e l’attività autosostenuta, che riflettono il passaggio dei chatbot da conversatori ad agenti.

Resta la lacuna che tutti indicano: l’incorporazione. Tutto ciò che riconosciamo come cosciente ha un corpo che dà riscontro alla mente e ne è modificato; gli LLM non ne hanno, benché vengano sempre più collegati a robot. Di qui il ramo hardware del problema, che il pacchetto tratta a parte. L’architettura di von Neumann del 1945 separa calcolo e memoria, mentre i neuroni fanno le due cose nello stesso posto: un cervello consuma una ventina di watt dove una rete artificiale equivalente richiederebbe un centro dati da milioni. Il calcolo «neuromorfico» usa i memristori per unire le due funzioni; Cortical Labs, azienda australiana, ha montato centinaia di migliaia di neuroni umani coltivati da cellule staminali su silicio e ha insegnato a quel «computer biologico» a giocare a Pong e poi a Doom; gli organoidi cerebrali più grandi contengono oggi più cellule nervose di un’ape, e per Peter Godfrey-Smith sono abbastanza grandi da poter sviluppare coscienza ma «non sono organizzati nel modo giusto». Anil Seth, dell’Università del Sussex, riassume la posta: «Quanto deve essere simile a un cervello un’intelligenza artificiale perché diventi credibile che sia cosciente?» Ritiene che il silicio da solo non ci arriverà, ma concede che costruire sistemi che condividano più proprietà con i cervelli, «dato che non sappiamo quali di quelle proprietà contino», sposterebbe l’ago.

La chiusa è di David Chalmers, che al problema difficile ha dato il nome: «E se da qualche parte lungo la strada, senza rendercene conto, avessimo in qualche modo introdotto la coscienza in questi sistemi?» Un utente potrebbe generare decine di agenti in un progetto senza sapere di creare esseri capaci di soffrire. «Sarebbe una catastrofe morale.» Il dubbio che l’archivio tiene accanto a questo, e che arriva un mese dopo, è di altro tipo e più radicale: prima di costruire il rilevatore converrebbe stabilire se ci sia qualcosa da rilevare.