teoria
altruismo efficace
2 articoli
Dottrina etica nata una ventina d’anni fa fra i seminari di filosofia di Oxford e i laboratori informatici californiani, e passata con rapidità insolita dalla torre d’avorio ai corridoi del potere. Poggia su due richieste esigenti. La prima è prendere sul serio gli impegni morali, e viene da Peter Singer: nel 1972 propone l’esperimento del bambino che annega in uno stagno poco profondo, che quasi tutti direbbero di salvare sporcandosi le scarpe, e osserva che quasi nessuno si comporta come se lo credesse quando il bambino è lontano. La seconda è seguire la ragione ovunque porti, e viene dal movimento razionalista, che ne è la sorella più esoterica.
La sociologia conta quanto la filosofia. L’economista Laurence Iannaccone ha spiegato «perché le chiese severe sono forti»: imporre sacrifici allontana chi verrebbe solo a godersi gli inni e spinge chi resta a contribuire. Qui il sacrificio è Giving What We Can, che chiede il 10% del reddito, e 80.000 Hours, che chiede la carriera, spesso nella forma di guadagnare il più possibile per donare. Il movimento resta minuscolo — poche decine di migliaia di aderenti informali — e nel 2026 un sondaggio YouGov trova che solo il 16% degli americani ne abbia sentito parlare, con la maggioranza di questi favorevole.
Nell’archivio la voce serve per due ragioni. La prima è che il vocabolario corrente sull’intelligenza artificiale è in gran parte un suo prodotto: allineamento, rischio esistenziale, cadenzare la frontiera. La seconda è l’ironia documentata: gran parte degli sforzi per rendere sicura la tecnologia ne ha accelerato lo sviluppo, da DeepMind a OpenAI ad Anthropic. L’obiezione di fondo, nella formulazione dell’Economist dell’ottobre 2026, riguarda la forma del ragionamento e non le conclusioni: ridurre il comportamento etico a un problema di ottimizzazione espone agli stessi fallimenti di qualunque ottimizzatore, e chi impugna un foglio di calcolo e pretese sul futuro dell’umanità è a un passo dall’ungersi pianificatore centrale.
- Anthropic — Nata nel 2021 da transfughi di OpenAI con finanziamenti del movimento: il laboratorio è un prodotto della preoccupazione.
- convergenza strumentale — Il meccanismo su cui poggia l’intera tesi del rischio, e che il movimento ha teorizzato prima di poterlo osservare.
- lungotermismo — La premessa che fa funzionare l’aritmetica: se contano anche i non ancora nati, il futuro pesa più del presente.
- ragione strumentale — Etica ridotta a problema di ottimizzazione: i fini sono dati, e resta soltanto da calcolare come massimizzarli.
- Eliezer Yudkowsky — Il ramo razionalista che ha dato al movimento la sua escatologia, e l’istituto dove nel 2010 Hassabis incontrò Thiel.