lungotermismo

Posizione per cui né la distanza né il tempo annullano gli obblighi morali, e per cui il benessere di chi vivrà fra migliaia di anni va messo sulla bilancia insieme a quello di chi vive adesso. Nel 2002 Nick Bostrom conia l’espressione «rischi esistenziali» per i disastri che potrebbero cancellare la vita intelligente sulla Terra o mutilarne il potenziale, ed è da quel filone che nascono le preoccupazioni sull’intelligenza artificiale.

La difficoltà non è morale ma aritmetica, ed è il motivo per cui la voce interessa questo archivio. Se i beneficiari possibili sono miliardi di miliardi, qualunque probabilità non nulla di estinzione schiaccia qualunque bene presente: l’estinzione è una prospettiva così grave che in un calcolo grossolano anche una possibilità remota supera le sofferenze di carne e ossa di oggi. Da qui discendono le conclusioni che il movimento accetta volentieri e che ai suoi critici sembrano perverse — l’idea che sarebbe meglio portare all’esistenza bilioni di vite appena degne di essere vissute piuttosto che miliardi di vite buone, o che il benessere delle macchine possa un giorno contare.

Il punto d’arrivo è il «mostro di utilità» che Robert Nozick propose nel 1974 come avvertimento contro l’utilitarismo e che Bostrom in un saggio del 2020 ribattezza «super beneficiario»: menti digitali capaci di riprodursi in fretta e progettate per un piacere smisurato soddisferebbero il calcolo meglio degli esseri umani. La difficoltà epistemica è che una tesi di questo genere non è sottoponibile a prova: non esiste osservazione che la smentisca, e questo la colloca in una classe diversa da quella delle affermazioni che l’archivio tratta come verificabili.