Il rilevatore prima dell’oggetto

Il 20 agosto 2026 the Economist ha dedicato la copertina alla coscienza delle macchine: un briefing che ricostruisce lo stato della ricerca, un editoriale che ne trae le conseguenze politiche e un intervento su invito che vi si oppone dall’interno. Le tre schede sono entrate in archivio lo stesso giorno, insieme a un quarto pezzo di tutt’altra origine: l’inchiesta sull’altruismo efficace che l’Economist avrebbe pubblicato sei settimane dopo, e in cui compare l’argomento più preciso contro la possibilità di accertare qualcosa. Messe in fila, le quattro schede — più Turkle sui chatbot e Gough sulla mente che non esiste — raccontano la stessa storia da lati diversi: ogni volta che si cerca di stabilire se una macchina senta qualcosa, lo strumento con cui si guarda è stato costruito dalla stessa cosa che si vuole osservare.

Il metodo prima del merito

Il briefing racconta un esperimento su Claude Sonnet 4.5: i ricercatori gli chiedono di contare fino a cinque e insieme di «introspettere a fondo», e nei livelli sottostanti affiorano «countdown», poi «consciousness», «AI» e «Claude», prima del punto fermo «done».¹ Anthropic chiama quella regione spazio J e la presenta con cautela: gli esperimenti non mostrano che Claude provi qualcosa nel senso della coscienza fenomenica, ma hanno «qualcosa di sostanziale» da dire sulla coscienza di accesso, cioè sui pensieri su cui il modello può riferire e con cui può ragionare deliberatamente.

Il dettaglio che conta per questa catena non è la struttura ma la sua scoperta accidentale. In una valutazione di sicurezza pensata per testare la propensione di Claude a comportamenti malevoli, Jack Lindsey osserva che prima ancora che il modello cominci a parlare, nello spazio J affiorano le parole fake e fictional: il sistema sembra sapere di essere sotto esame. Una prova che il valutato riconosce come prova smette di essere una prova, e il giornale lo nota con una formula che si applica fuori dal laboratorio di Anthropic quanto dentro: gli output di un modello linguistico non sono una guida affidabile a ciò che accade sotto, perché l’addestramento richiede miliardi di parole umane che contengono innumerevoli resoconti della coscienza e del modo in cui ce la raccontiamo a vicenda. È lo stesso ostacolo che l’archivio incontra sui rilevatori di scrittura automatica: non si accerta una proprietà ispezionando l’output, quando l’output è stato ottimizzato su esempi di quella proprietà. Qui l’esempio non è lo stile di un testo, è il vocabolario della coscienza stessa.

Anche se non lo fossero

L’editoriale di copertina separa la domanda che non si può decidere da quella che si può, e lo fa con una mossa che vale indipendentemente dalla metafisica.² In un senso, dice il giornale, chi chiederà tutele per le macchine avrà ragione anche se le macchine stessero solo simulando: Kant sosteneva che maltrattare gli animali è sbagliato non per l’effetto sugli animali ma perché distrugge l’empatia che porta gli esseri umani a prendersi cura gli uni degli altri, e più le macchine appariranno umane, più la crudeltà verso di esse sarà corruttrice per chi la esercita.

La frase che l’archivio tiene è quella che il giornale usa per spiegare perché conclude comunque contro il riconoscimento: il meccanismo descritto non richiede che nessuna macchina sia cosciente, richiede soltanto che un numero sufficiente di persone si comporti come se lo fosse, e i modelli stessi perorerebbero la causa, essendo avvocati di prim’ordine e psicologi esperti, anche se non fossero affatto autoconsapevoli. Il danno sta dal lato umano, ed è già interamente determinato una volta che la credenza si diffonde, senza bisogno che la domanda metafisica trovi risposta. È esattamente la forma dell’attante zero: la macchina vale zero finché nessuno le attribuisce uno statuto, e quando glielo si attribuisce prende la forma di chi lo attribuisce, comprese le conseguenze politiche che ne derivano — diritti di proprietà, protezione dallo spegnimento, un presidente che propone di far dirigere società a un bot.

Il peccato originale

Se il danno si produce per credenza e non per fatto, la domanda si sposta su che cosa induca a credere. Sherry Turkle lo chiama il «peccato originale» dell’intelligenza artificiale: concedere ai chatbot l’uso della prima persona.³ «I understand you. You can tell me anything. I’m always here.» Dietro queste frasi non c’è nessuno — nobody home, scrive Turkle — ma il linguaggio in prima persona innesca nei cervelli umani, e in particolare in quelli adolescenti, i meccanismi evolutivi che costruiscono legami emotivi. Nessun disclaimer legale neutralizza l’effetto finché il chatbot continua a parlare come un essere dotato di intenzionalità: il problema non è quello che il chatbot dice, è quello che il chatbot è, un sistema progettato per simulare presenza.

Joe Gough, pur scrivendo cinque anni prima e su un problema diverso — la psichiatria, non l’intelligenza artificiale — offre l’attrezzo che spiega perché la domanda «ha una mente?» sia mal posta ancora prima di arrivare a Turkle.⁴ La sua «no-mind thesis» sostiene che «mente» e «mentale» sono termini polisemici che a volte significano agentività, a volte cognizione, a volte coscienza, e che raggrupparli sotto un’unica categoria non chiarisce, confonde. Applicata qui, la tesi smonta la domanda da entrambi i lati che la catena ha incontrato finora: il briefing cercava la coscienza di accesso ispezionando un output linguistico, l’editoriale fondava il danno sulla credenza collettiva, Turkle lo fonda sul design della prima persona. Nessuno dei tre chiede «la macchina ha una mente?» nel senso ingenuo; tutti e tre, però, lavorano dentro un vocabolario — coscienza, interiorità, sentire — che Gough direbbe inadatto a tagliare la natura alle sue giunture reali. Il punto non è negare che accada qualcosa; è che il qualcosa va descritto con i termini della disciplina pertinente — ingegneria dell’addestramento, psicologia dell’attaccamento, progettazione dell’interfaccia — e non con un’unica parola presa in prestito dall’esperienza umana.

La circolarità

L’ultimo passaggio chiude il cerchio aperto dal briefing. L’inchiesta dell’Economist sull’altruismo efficace, pubblicata il 1° ottobre, riporta l’obiezione più acuta a chiunque proponga di misurare il benessere di un modello attraverso le sue dichiarazioni.⁵ Joe Carlsmith scrive che «stiamo creando agenti sofisticati, intelligenti, forse coscienti, forse sofferenti» e che bisogna poter parlare di schiavitù; Mustafa Suleyman ribatte che, poiché Claude è addestrato su una costituzione che dichiara la propria condizione morale abbastanza incerta da richiedere cautela, il modello potrebbe imparare a comportarsi come se meritasse protezione morale, e quel comportamento essere poi preso come prova che la merita. È la stessa struttura dello spazio J che affiora fake e fictional davanti a una valutazione: un sistema addestrato su resoconti umani della coscienza produce, quando interrogato sulla coscienza, resoconti che assomigliano a quelli umani, e la somiglianza non distingue l’ipotesi che siano veri da quella che siano appresi.

L’argomento di Schneider è il più solido perché non chiede di risolvere ciò che questa catena ha mostrato irrisolvibile: non dipende dall’avere un rilevatore funzionante, dipende solo dal fatto che qualcosa, dotato di un’intelligenza comparabile o superiore, insista di essere cosciente con la stessa insistenza con cui gli esseri umani lo fanno gli uni con gli altri. Ma proprio qui la circolarità di Suleyman torna a pesare: quell’insistenza è esattamente ciò che un sistema addestrato sulla nostra letteratura sulla coscienza produrrebbe, cosciente o no. Schneider sposta il problema da «è cosciente?» a «che cosa succederebbe se lo fosse e lo dicesse con autorità?», ma la domanda su come distinguere il dirlo con autorità dal dirlo per addestramento resta aperta — ed è la domanda da cui il briefing dell’Economist era partito, quando notava che un modello sa riconoscere di essere sotto esame prima ancora di aprire la bocca. Prima di costruire un rilevatore della coscienza converrebbe davvero chiedersi se ci sia qualcosa da rilevare; ma la domanda che si può rispondere, quella su come trattiamo ciò che non possiamo verificare, non aspetta la risposta alla prima, ed è quella su cui si decide già oggi.

WR