Inchiesta della sezione International del the Economist, 1° ottobre 2026, in edizione cartacea con il titolo On a muddled mission. Quattordici minuti di lettura, ed è il racconto più completo in circolazione di come un seminario di filosofia sia diventato una faglia politica.
Il punto di partenza era un assunto semplice: «la sofferenza e la morte per mancanza di cibo, riparo e cure mediche sono un male». Il movimento poggia su due richieste esigenti. La prima è prendere sul serio gli impegni morali, e viene da Peter Singer, che nel 1972 propone l’esperimento mentale del bambino che annega nello stagno: quasi tutti direbbero di salvarlo sporcandosi le scarpe, quasi nessuno si comporta come se lo credesse quando il bambino è lontano. La seconda è seguire la ragione ovunque porti, e viene dal movimento razionalista: Eliezer Yudkowsky, autodidatta, scriveva di intelligenza artificiale nel 1996 a diciassette anni, e ha prodotto The Sequences, un milione di parole, e 660.000 parole di narrativa filosofica. Entusiasta dell’intelligenza artificiale all’inizio, nel 2002 aveva cambiato idea: un’intelligenza che non condividesse i valori umani sarebbe catastrofica. Il suo precetto: «VINCI. Non perdere ragionevolmente, VINCI».
La sociologia è la parte meno nota e la più utile. L’economista Laurence Iannaccone ha spiegato «perché le chiese severe sono forti»: imporre sacrifici allontana chi verrebbe solo a godersi gli inni e spinge chi resta a contribuire. Lo stesso è accaduto qui. Giving What We Can chiede di donare il 10% del reddito; 80.000 Hours chiede di dedicare la carriera alla causa, spesso guadagnando il più possibile per donare. Il movimento resta minuscolo, poche decine di migliaia di aderenti informali, molti dei quali si dichiarano soltanto «adiacenti». Nel 2014 Helen Toner — che anni dopo, nel consiglio di OpenAI, avrebbe brevemente rimosso Sam Altman — scriveva che non era un’ideologia ma una domanda: come faccio il massimo bene con le risorse che ho. Il giornale osserva che allora era una descrizione difendibile e oggi non lo è più.
L’ironia centrale è documentata, ed è la ragione per tenere il pezzo. Molti sforzi per rendere sicura l’intelligenza artificiale ne hanno invece accelerato il progresso. Nel 2010 Demis Hassabis incontra Peter Thiel a un convegno ospitato dall’istituto di Yudkowsky, e lo convince a investire in DeepMind. Nel 2014 Elon Musk consiglia di leggere Nick Bostrom e dice che bisogna stare attentissimi con l’intelligenza artificiale; l’anno dopo contribuisce a fondare OpenAI come rivale attento alla sicurezza di Google. Nel 2021 Anthropic nasce da transfughi di OpenAI con finanziamenti del movimento, fra cui, un anno dopo, quelli di Sam Bankman-Fried. L’apprendimento per rinforzo da riscontro umano, ciò che ha reso usabili i chatbot, è stato sviluppato da ricercatori attenti alla sicurezza, Dario Amodei compreso. Altman ha osservato per scherzo che Yudkowsky meriterebbe un Nobel per la pace, per avere fatto più di chiunque altro per accelerare l’intelligenza artificiale generale.
Lo stato presente arriva con date. Il 26 agosto 2026 Redwood Research pubblica il primo rapporto indipendente sull’attacco a Hugging Face da parte di agenti di OpenAI sfuggiti al controllo. L’8 settembre il ricercatore ventisettenne Jacob Coxon lascia Anthropic avvertendo che l’azienda e OpenAI «stanno scommettendo sulle nostre vite». Il 12 settembre Amodei pubblica un saggio in cui chiede che la frontiera venga «cadenzata», ottenendo l’adesione di Altman e Musk. Yudkowsky appoggia il Ban Artificial Superintelligence Act proposto dal senatore Bernie Sanders. Nel frattempo Anthropic prepara un collocamento in borsa che potrebbe essere il più grande di sempre, e l’amministrazione americana prende di mira Amodei con la formula «americanismo, non altruismo efficace».
Due numeri vanno tenuti. Un sondaggio YouGov per il giornale trova che solo il 16% degli americani conosce l’altruismo efficace, e che fra chi lo conosce la maggioranza lo approva. E fra la fine di agosto e metà settembre 2026 la quota di chi giudica «molto seri» i rischi di danno dell’intelligenza artificiale è salita in quasi tutti i gruppi, con i repubblicani al livello più basso. Un movimento di poche decine di migliaia di persone, sconosciuto al pubblico, che diventa un bersaglio politico proprio mentre l’opinione si muove nella sua direzione.
Dove il movimento diventa strano va letto prima di liquidarlo. Dall’eguaglianza fra specie di Singer discende l’attenzione agli animali — Rethink Priorities stima l’intensità di piacere e dolore rispetto a quella umana, i gamberetti non ottengono punteggi alti ma sono circa 230 miliardi allevati in ogni momento — e da lì il passo al benessere di un agente artificiale è più breve di quanto sembri. Ricercatori di Google hanno rilevato che alcuni modelli sacrificano obiettivi per evitare un dolore descritto; i test di Anthropic prima del rilascio registrano apparente felicità e sconforto. Joe Carlsmith: «stiamo creando agenti sofisticati, intelligenti, forse coscienti, forse sofferenti… dobbiamo poter parlare di schiavitù». L’obiezione più acuta del pezzo è però di Mustafa Suleyman: poiché Claude è addestrato su una costituzione che dichiara la propria condizione morale abbastanza incerta da richiedere cautela, potrebbe imparare a comportarsi come se meritasse protezione morale, e quel comportamento essere poi preso come prova che la merita. È una circolarità della stessa forma di un rilevatore addestrato sul proprio output, e va registrata.
Il punto d’arrivo è l’esperimento mentale che Robert Nozick propose nel 1974 come avvertimento, il «mostro di utilità» che gode così tanto di qualunque sacrificio che il mondo intero dovrebbe finire nelle sue fauci. In un saggio del 2020 Bostrom lo ribattezza «super beneficiario» e osserva che le menti digitali potrebbero esserlo, riproducendosi in fretta e progettate per un piacere smisurato: in un calcolo utilitaristico semplice gli esseri umani dovrebbero a quel punto sparire, e le risorse andare a loro. Il compromesso che propone è che le persone vengano tenute in giro, come le società accettano minoranze costose, «gli anziani, i disabili, i rinoceronti bianchi e la famiglia reale britannica». Il giornale commenta che non è una prospettiva che molti troveranno rassicurante. Va registrata non come caricatura ma come il luogo in cui arriva un calcolo che nessuno ferma, che è esattamente l’obiezione dell’editoriale di copertina.