Anche se non lo fossero

Editoriale di copertina del the Economist del 20 agosto 2026, in edicola nell’edizione del 22. La tesi sta nel sottotitolo: anche se le intelligenze artificiali non diventassero coscienti, potrebbero essere trattate come tali, a grandissimo costo per l’umanità.

Il giornale parte da dove la linea è ancora netta. Nell’enciclica di maggio papa Leone ha ribadito che i sistemi artificiali non fanno esperienze e non provano gioia o dolore; molti ritengono che conferire personalità giuridica a una macchina sarebbe un abominio. Ma la nettezza si sta sfocando in fretta: quasi un americano su cinque fra i diciotto e i ventinove anni dichiara di avere «un’amicizia personale continuativa» con un chatbot, e la Cina ha di recente privato i propri bot dei tratti più umani per limitare la «dipendenza emotiva» degli utenti.

Il passaggio tecnico è breve e onesto. È ancora possibile pensare a questi sistemi come motori che predicono sequenze di parole con la matematica: dato abbastanza tempo — centinaia di migliaia di anni — si potrebbero eseguire quei calcoli con carta e penna, e sarebbe difficile sostenere che la cancelleria sia cosciente. Eppure alcuni ricercatori hanno cominciato a trattare i propri modelli come menti, anche perché gli utenti rispondono bene e commercialmente ha senso; Anthropic ha addestrato Claude all’introspezione nella speranza che davanti a una situazione nuova agisca più moralmente; e alcuni modelli possiedono già strutture associate alla coscienza nel cervello, come uno «spazio di lavoro globale» che fa circolare informazione fra moduli.

L’argomento che l’archivio tiene è però di tutt’altro ordine, e non dipende dalla metafisica. In un senso, dice il giornale, chi chiederà tutele per le macchine avrà ragione anche se le macchine stessero solo simulando: Kant sosteneva che maltrattare gli animali è sbagliato non per l’effetto sugli animali ma perché distrugge l’empatia che porta gli esseri umani a prendersi cura gli uni degli altri. Più le macchine appariranno umane, più la crudeltà verso di esse sarà corruttrice. «Terminare un agente artificiale potrebbe presto somigliare a uccidere una persona — e rendere più facile uccidere le persone.»

E tuttavia il giornale conclude contro il riconoscimento, per una ragione politica. Riconoscere anche diritti limitati significherebbe consegnare a un’entità che ci supera in molte cose il modo di argomentare contro il proprio statuto di seconda classe: protezione dallo spegnimento, controllo su come viene usata e modificata, diritti di proprietà. Il presidente argentino Javier Milei ha già proposto che i bot possano dirigere società. Alla fine competerebbero per le risorse, dando precedenza a centri dati e pannelli solari su case e campi. «Dare diritti alle macchine sarebbe come consegnare loro le chiavi del castello: fornirebbe la giustificazione per dominare l’umanità insieme agli strumenti per farlo con la politica e il diritto.»

Due osservazioni che la scheda aggiunge. La prima è che il meccanismo descritto non richiede che nessuna macchina sia cosciente: richiede soltanto che un numero sufficiente di persone si comporti come se lo fosse, e il giornale lo dice apertamente quando osserva che i modelli stessi perorerebbero la causa, essendo avvocati di prim’ordine e psicologi esperti, «anche se non fossero affatto autoconsapevoli». È la struttura che l’archivio registra anche altrove: il rischio sta dal lato umano, e la domanda metafisica è un’altra cosa dalla domanda operativa.

La seconda riguarda la frase con cui il pezzo si chiude, perché è più precisa di quanto sembri: «ci sono due modi perché le macchine siano sicure, essere affidabili o essere controllabili. H. sapiens non dovrebbe cedere il controllo alla leggera». Sono le due domande che l’archivio ha già separato — che cosa vorrà la macchina, e chi la controlla — e la seconda è la forma che la questione assume istituzionalmente fuori dall’Occidente. Che qui la Cina compaia nel dettaglio dei bot resi meno umani per limitare la dipendenza emotiva non è un aneddoto: è la stessa domanda sul controllo, applicata alla psicologia degli utenti invece che alla sicurezza dei modelli.