Not Even Wrong 2: An Audit of Public AGI Prediction, 1950–2026 ↗
Secondo capitolo della serie, scritto il 13 settembre 2026 e pubblicato su SSRN il giorno dopo. Qui l’oggetto non è il mercato del lavoro ma la previsione dell’AGI, della Singolarità tecnologica e dell’estinzione umana causata dall’AI: ventiquattro previsioni pubbliche fra le più diffuse, emesse fra il 1950 e il 2026, verificate una per una. Nessuno, scrivono gli autori, aveva mai controllato l’intero registro previsione per previsione. La ragione per cui importa non è il gusto della pagella, ed è la parte che il sito userà per prima. Nel 1973, su richiesta dello Science Research Council britannico, Sir James Lighthill pubblicò una rassegna dell’intelligenza artificiale come campo di ricerca: misurò il suo registro contro ciò che la generazione fondatrice — Simon, Minsky, McCarthy, i partecipanti di Dartmouth — aveva promesso, e concluse che aveva sistematicamente promesso troppo. Il rapporto contribuì a una riduzione netta dei finanziamenti britannici lungo gli anni Settanta, uno degli episodi che oggi si raggruppano sotto «inverno dell’AI». L’episodio mostra che le previsioni non descrivono i futuri possibili di un campo: sono fatti istituzionali che contribuiscono a determinarli, conferendo legittimità, informando le politiche, strutturando le priorità di ricerca e orientando gli investimenti o i disinvestimenti. Prima di verificare bisogna stabilire che cosa conti come previsione, e le esclusioni sono più istruttive delle inclusioni. Una dichiarazione entra nell’audit se nomina uno stato previsto, per quanto metaforicamente descritto; se usa un linguaggio probabilistico, condizionale o causale che invita alla verifica empirica; e se attacca quello stato a un tempo, per quanto alla larga. È il terzo criterio a fare il lavoro: datare è ciò che trasforma una congettura in una previsione. Senza data, chi parla risponde della plausibilità del quadro ma non di alcuna predizione specifica; con una data diventa un previsore, e gli standard cambiano. Restano perciò fuori sei testi celebri — As We May Think di Vannevar Bush del 1945, la Cybernetics di Wiener del 1948, Bostrom 2014, la Carta di OpenAI del 2018, Sutskever 2024 e If Anyone Builds It, Everyone Dies di Yudkowsky e Soares del 2025, che fallisce perché «se qualcuno lo costruisce» è un antecedente a cui non è attaccato alcun anno. E gli autori precisano che l’esclusione non è una retrocessione: la Carta di OpenAI definisce l’AGI con una cura operativa inconsueta e poi si rifiuta di dire quando, osservando che «la tempistica resta incerta», e avvertire senza fabbricare falsa specificità è una disciplina metodologica e una virtù politica, perché lascia al lettore il giudizio su quale tempistica sia plausibile invece di fornirgliene una spuria. Lo strumento è a due cancelli, e il primo è quello che si porta via. Divide il falsificabile dall’infalsificabile con quattro criteri, tutti proprietà della previsione e non del mondo, giudicabili quindi nel momento stesso in cui la previsione viene pronunciata. Adeguatezza semantica: lo stato previsto è definito abbastanza precisamente perché due specialisti concordino su che cosa si stia affermando senza dover consultare chi l’ha detto? Turing nel 1950 passa, perché il gioco dell’imitazione specifica lo stato in termini comportamentali — una macchina che gioca in modo che un interrogatore medio non abbia più del 70% di probabilità di identificazione corretta dopo cinque minuti; Vinge nel 1993 fallisce, perché parla di «intelligenza sovrumana» senza mai dire che cosa la costituirebbe. Adeguatezza operativa: esiste un protocollo di misura concreto? Simon e Newell nel 1958 passano nel modo più forte possibile, perché il test — il campionato mondiale di scacchi, istituzione già esistente e già arbitrata — specifica esso stesso lo stato previsto, sicché superare il test stabilisce lo stato e i due sono inseparabili; Simon nel 1965 fallisce, riferendosi alla sostituzione di «qualunque lavoro un uomo possa fare» senza mai dire come si misurerebbe. Adeguatezza temporale: la scadenza è abbastanza specifica da far scattare un fallimento a una data? Passano «entro il 2027», «fra il 2030 e il 2040», «entro cinquant’anni dalla pubblicazione»; falliscono «decenni», «presto», «oltre l’orizzonte degli eventi», «prima o poi». Arbitrabilità: un arbitro indipendente potrebbe risolvere la previsione senza chi l’ha formulata? «Un’affermazione conta come testabile solo se è testabile da qualcuno diverso dal suo autore; un test che solo chi asserisce può eseguire è un’asserzione ripetuta.» È il criterio su cui cade, per esempio, il 10–20% di probabilità di estinzione umana entro trent’anni dichiarato da Hinton nel 2024: non fallisce sulla realizzazione, fallisce sull’arbitrabilità. L’esito: diciannove previsioni su ventiquattro, il 79%, non sono nemmeno sbagliate. Due, l’8%, sono falsificabili e false. Tre, il 13%, restano aperte. E il dato che il sito citerà da solo: le due previsioni falsificate appartengono entrambe al primo decennio della pratica, e la qualità non mostra alcun miglioramento rilevabile via via che il campo è maturato. Il catalogo va da Turing 1950 e Dartmouth 1955 fino ad Altman, Amodei, Hassabis, Musk e AI 2027, e la convenzione di conteggio è dichiarata: le dichiarazioni di Musk dal 2020 al 2026 valgono una voce sola, «perché ciascuna riemette la stessa affermazione con una data spostata, e contarle separatamente lascerebbe che una singola pratica di riemissione si moltiplichi in cinque righe». Due cose finali, che valgono come modello di condotta più del risultato. La prima: gli autori quantificano l’effetto della propria convenzione invece di difenderla. Il primo cancello è permissivo, perché un criterio soddisfatto imperfettamente non blocca la previsione; con una convenzione più severa passerebbe una sola voce del catalogo, Simon e Newell 1958, l’unica promossa su tutti e quattro i criteri, e i conteggi diventerebbero ventitré non nemmeno sbagliate e una sbagliata, senza nessuna aperta. La seconda: dichiarano due limiti contro sé stessi. Le soglie di inclusione selezionano per circolazione, e il paper stesso sostiene altrove che la circolazione seleziona contro la disciplina metodologica — «il catalogo è dunque tratto proprio dalla popolazione che la nostra analisi prevede otterrà punteggi bassi». E i voti sono stati assegnati dal gruppo di autori e controllati internamente, senza codificatori indipendenti: «finché non sarà stato fatto, l’affidabilità dello strumento in altre mani è un’affermazione che non facciamo». Un audit sulla falsificabilità che pubblica le condizioni della propria falsificazione è la cosa più rara di tutte, e la conclusione — che la pratica pubblica della previsione sull’AGI è sicura oltre quanto l’evidenza consenta, e non dovrebbe reggere il peso che le si dà nelle decisioni su investimenti, politiche e priorità di ricerca — arriva con l’autorità di chi ha mostrato come smontarla.