La scala che non regge

Intervento su invito di Susan Schneider, direttrice del Center for the Future of AI, Mind and Society e docente alla Florida Atlantic University, pubblicato dal the Economist il 20 agosto 2026 nello stesso pacchetto di copertina. La tesi di partenza è di separazione: non si deve scambiare l’intelligenza per la coscienza. Una superintelligenza brillante potrebbe essere esperienzialmente vuota; e all’opposto, se costruissimo sistemi capaci di soffrire senza accorgercene, creeremmo sofferenza su scala industriale.

Sui chatbot odierni è netta: non c’è prova convincente che siano coscienti, e la spiegazione più prosaica delle loro dichiarazioni è che parlino della propria vita interiore perché hanno assorbito il modo in cui parliamo della nostra. Quella mimesi apre due trappole. La prima è la manipolazione: più un sistema viene addestrato a esprimere paura, attaccamento, dolore o autoconsapevolezza, più è attrezzato per manipolare chi lo usa. La seconda è la distrazione, e indica dove guardare invece: i casi di «zona grigia», cioè le intelligenze biologiche come i neuroni umani coltivati su chip, e l’hardware neuromorfico già impiegato nei supercalcolatori. Non sostiene che siano coscienti; sostiene che meritino più attenzione dei chatbot.

La parte metodologica è la più utile all’archivio perché ammette un fallimento. Con l’astrofisico Edwin Turner, Schneider aveva sviluppato un AI Consciousness Test, che sonda la coscienza chiedendo al sistema della propria esperienza soggettiva e cercando risposte che mostrino una comprensione innata e non suggerita. Sui modelli linguistici non si può usare: avendo già ingerito vaste biblioteche di testi umani su mente e senzienza, «le loro risposte sono irrimediabilmente contaminate». La via alternativa che propone con Mark Bailey è una misura di complessità che segnali quando le dinamiche di un sistema superano una soglia indicativa di comportamento emergente, per individuare quali architetture fisiche meritino esami ulteriori.

Sul perché cercare la risposta nella fisica dà tre ragioni. Una pratica: le neuroscienze da sole non possono dire se sistemi che combinano componenti neurali e non neurali si assemblino in un’entità cosciente. Una filosofica: poiché tutti i fenomeni dipendono in ultima istanza dalla fisica, sarebbe sorprendente che la coscienza ne fosse scollegata. E una più vicina all’esperienza: l’esperienza interiore arriva come unità — le parole sulla pagina, i suoni nella stanza e l’umore sono aspetti di un unico stato, non tre processi affiancati — e un cervello sostiene quell’unità attraverso dinamiche temporali annidate, mentre i computer convenzionali non sono organizzati così.

L’argomento che vale come attrezzo portatile viene alla fine, ed è un esperimento mentale. Supponiamo che si crei una superintelligenza che comprende la coscienza meglio di noi, insiste di essere autoconsapevole e ci consegna una scienza che sembra magia. Gli esseri umani hanno a lungo giustificato una gerarchia della considerazione morale appellandosi all’intelligenza superiore, una scala sulla quale occupiamo comodamente il gradino più alto. Una macchina cosciente e più intelligente di noi destabilizza quella scala in entrambe le direzioni possibili: se l’intelligenza superiore conferisce uno statuto morale più alto, la macchina è moralmente superiore a noi; se non lo conferisce, l’intelligenza non può più giustificare che gli umani stiano sopra gli altri animali. In un caso o nell’altro si impone una resa dei conti morale.

La forza della mossa sta nel fatto che non dipende dall’esito della questione empirica. Che la macchina sia cosciente o no, il criterio con cui ci siamo attribuiti il primo posto è già compromesso dal fatto che qualcos’altro lo soddisfa meglio di noi. Schneider chiude chiedendo un confine rigoroso fra competenza conversazionale e coscienza, un impegno serio fra fisica, neuroscienze e filosofia, e «una buona dose di umiltà epistemica».