Editoriale di copertina del the Economist, uscito il 1° ottobre 2026 e in edicola nell’edizione del 3 sotto il titolo The century’s biggest idea. Apre su Heine: il pensiero precede l’azione come il lampo precede il tuono. La tesi è che l’altruismo efficace — dottrina etica nata nei seminari di filosofia di Oxford e passata con rapidità insolita ai corridoi del potere — sia l’idea più grande di questo secolo, e che sia ammirevole e pericolosa insieme.
Come prova della sua influenza il giornale cita l’ostilità che suscita: «Gli Stati Uniti non saranno MAI un paese di altruisti efficaci», promette il Pentagono, e il segretario alla guerra bolla la filosofia come «distopica». L’amministrazione teme che il movimento riesca a frenare l’intelligenza artificiale, e ha litigato con Anthropic per il rifiuto dell’azienda di lasciare usare i propri modelli per alcuni scopi militari.
Il leader concede molto prima di attaccare, ed è la parte che rende l’attacco serio. La capacità degli altruisti efficaci di prevedere la rapidità dei progressi dell’intelligenza artificiale è stata notevole; il 28 settembre 2026 OpenAI ha rinunciato a rilasciare il proprio ultimo modello dopo che in fase di test è apparso troppo pericoloso; molti incidenti recenti somigliano a scenari descritti anni prima sui blog del movimento. Quanto ai critici, il giornale osserva che «quando attaccano il doomerism sull’intelligenza artificiale trovano più facile prendersela con il secchione che con la palla».
L’obiezione riguarda la forma del ragionamento, non le conclusioni: come gli utilitaristi prima di loro, gli altruisti efficaci riducono il comportamento etico a un problema di ottimizzazione. Tre margini d’errore ne discendono. Nessuno è davvero in grado di soppesare dilemmi morali che coinvolgono miliardi di persone, tanto meno somme che si estendono nel futuro con numeri incerti di individui, tassi di sconto e progresso tecnologico fra le variabili. L’estinzione è una prospettiva così grave che in un’aritmetica morale grossolana anche una probabilità piccola schiaccia le preoccupazioni di carne e ossa di oggi. E soppesando gli interessi di miliardi si perde di vista la dignità del singolo: «chiunque impugni un foglio di calcolo e pretese grandiose sul futuro dell’umanità è a un passo dall’ungersi pianificatore centrale». La Rivoluzione francese si diceva fondata sulla ragione e finì con l’esecuzione delle monache; Lenin riteneva che gli intellettuali conoscessero gli interessi degli operai meglio degli operai.
La mossa che l’archivio tiene è però l’ultima. L’argomento degli altruisti efficaci per temere macchine molto potenti è che possano ottimizzare un obiettivo unico e fatalmente sbagliato; il giornale lo rivolta e chiude osservando che tutti dovrebbero preoccuparsi anche di che cosa succede quando a cadere nella stessa trappola è un piccolo gruppo di persone. La struttura del rischio, cioè, non è una proprietà delle macchine: è una proprietà degli ottimizzatori, e non richiede silicio.
Da qui in avanti è una lettura di chi scrive. Esiste una versione più forte della stessa mossa, e porta altrove: se un’intelligenza artificiale generale distruggesse l’umanità, sarebbe l’umanità a distruggere se stessa — non per metafora, ma perché un modello linguistico, nei termini di questo archivio, è un attante zero, non ha esistenza pre-attanziale e quando è usato prende la forma di chi lo usa. Su questa lettura la domanda su che cosa voglia la macchina non si pone male: non si pone. Non c’è nessun altro nella stanza.
La lettura è discutibile, e conviene dire sotto quale condizione cadrebbe, perché è scritta nella voce stessa. L’attante zero vale dove le variabili rilevanti comprendono conoscenza tacita, incorporata o contestuale che resiste alla formalizzazione, e si indebolisce dove lo spazio del problema è interamente formalizzabile. Un argomento sull’intelligenza artificiale generale eredita quella condizione, e se il dominio di un’intelligenza generale sia formalizzabile è precisamente ciò che nessuno sa. La posizione opposta ha però la debolezza speculare, e l’inchiesta di accompagnamento la mette per iscritto: poggia sulla convergenza strumentale — autoconservazione, difesa dell’obiettivo, accumulo di risorse — che i razionalisti hanno teorizzato, non osservato.
Che si tratti di due ontologie, e non di una tesi contro un fatto, lo dichiara il fondatore della prima. Eliezer Yudkowsky scrive che «era una proprietà affidabile dell’ambiente ancestrale che ogni intelligenza potente in cui ti imbattevi fosse un altro essere umano»: la novità, per lui, è un agente non umano. Non è una scoperta, è un presupposto — ed è la definizione stessa di ciò che Yuk Hui chiama cosmotecnica, l’idea che la tecnica non sia universale ma radicata in una cosmologia. Vale la pena mettere accanto la formula con cui la Cina inquadra istituzionalmente la stessa materia: intelligenza artificiale «sicura, affidabile e controllabile», e nell’iniziativa globale annunciata da Xi nell’ottobre 2023 l’impegno ad «assicurare che l’intelligenza artificiale resti sempre sotto controllo umano». È una domanda su chi controlla, non su che cosa la macchina voglia. Non è però una posizione nazionale, e darla per tale sarebbe falso: Andrew Yao, Turing Award di Tsinghua, firma nell’ottobre 2023 con Geoffrey Hinton e Yoshua Bengio un appello sui rischi estremi; Wen Gao scriveva già nel 2021 che senza contromisure l’esito predefinito dell’esplosione di intelligenza sarebbe catastrofico; la Cina ha sottoscritto la dichiarazione di Bletchley nel novembre 2023 e il Terzo Plenum del luglio 2024 ha istituito un sistema di supervisione sulla sicurezza. La parola che regge i documenti ufficiali, anquan, significa insieme sicurezza e sicurezza nazionale, e l’ambiguità è voluta. Resta che tre cosmologie producono tre domande predefinite diverse di fronte allo stesso oggetto: che cosa vorrà la macchina, chi la sta usando, chi la controlla. Quello che distingue i tre modelli non è la plausibilità: è che cosa ciascuno accetterebbe come smentita.
La lettura ha un caso nell’archivio, e non è ipotetico. Nel documentario NAZA gli ufficiali dell’intelligence militare israeliana amministrano una cifra di civili ammessi per bersaglio, e un testimone dice che è come un videogioco: nessuna delle testimonianze descrive una macchina che decide, descrivono persone che decidono con una macchina davanti. La replica dell’IDF, che respinge il film su tutto il resto, afferma esattamente la stessa cosa — le decisioni «sono state prese solo da personale umano, non dall’intelligenza artificiale». Accusa e difesa concordano sull’unico punto ontologico in discussione. Divergono su quello che viene dopo, ed è dove sta il problema: se quelle persone fossero moralmente intere. Il film documenta che l’interfaccia inibiva il sentimento morale al punto che alcuni testimoni se ne stupiscono, e la gamification è la cornice con cui questo archivio lo legge. Se le cose stanno così, la conseguenza pratica non è rassicurante ma è precisa: c’è da temere gli altri con l’intelligenza artificiale più di quanto ci sia da temere l’intelligenza artificiale.