Non è nemmeno sbagliato

Wolfgang Pauli, il fisico del principio di esclusione, aveva fama di recensore spietato. Rudolf Peierls, nel ricordo che ne scrisse dopo la morte, racconta che un giorno un amico gli mostrò l’articolo di un giovane fisico, chiedendogli che cosa ne pensasse, e che Pauli rispose con tristezza: «Non è nemmeno sbagliato». Una tesi sbagliata ha almeno il merito di poter essere confutata, e chi la confuta impara qualcosa; una tesi che non si lascia mettere alla prova sta fuori dal gioco della conoscenza, per quanto suoni profonda. L’espressione è rimasta nel lessico della scienza come la condanna più severa, e Luciano Floridi, con Claudio Novelli e Jessica Morley, l’ha scelta come titolo di una serie di verifiche sulle previsioni che riguardano l’intelligenza artificiale.

Il secondo capitolo esamina ventiquattro previsioni pubbliche sull’AGI, sulla singolarità e sull’estinzione umana, emesse fra il 1950 e il 2026, e trova che diciannove non sono nemmeno sbagliate: legano una data a uno stato che nessuno ha definito, che nessuno sa misurare e che nessuno, tranne chi lo ha previsto, potrebbe dichiarare raggiunto.¹ Gli autori ricordano il rapporto con cui nel 1973 James Lighthill misurò le promesse della generazione fondatrice dell’intelligenza artificiale e concluse che il campo aveva promesso troppo, contribuendo al taglio dei finanziamenti britannici. Le previsioni, scrivono, sono fatti istituzionali che contribuiscono a determinare i futuri di un campo, più che descriverli.

La tesi di questa catena è che una previsione sull’intelligenza artificiale vale qualcosa solo se dichiara in che modo potrebbe risultare sbagliata, e che la maggior parte di quelle che orientano investimenti e politiche non lo fa. È il rovescio del meccanismo che la serie sul recinto chiamava criti-hype: la profezia che non si può smentire, perché non dice nulla di controllabile.

La profezia

Andrea Daniele Signorelli, su Backdoor, aveva già mostrato come si costruiscono i numeri più citati: il sondaggio di AI Impacts produce probabilità soggettive raccolte con formulazioni diverse, quasi sempre senza un orizzonte temporale e riferite a una categoria che mescola l’estinzione con una «grave e permanente perdita di potere» dell’umanità.² Una probabilità senza data e senza definizione non può essere smentita da nessun evento. Jensen Huang, nell’intervista con Ezra Klein, porta il controesempio di una previsione che invece si poteva verificare, e si è verificata al contrario: Geoffrey Hinton aveva detto che entro dieci anni sarebbe stato inutile formare radiologi, e dieci anni dopo i radiologi sono aumentati.³ Il merito della previsione di Hinton era di poter essere sbagliata.

Il lavoro

Il primo capitolo della serie di Floridi verifica ventisei previsioni sull’impatto dell’intelligenza artificiale sul mercato del lavoro, e parte dal caso fondativo: il 47% di Frey e Osborne, 2013.⁴ Gli autori lo difendono prima di smontarlo, perché il paper originale era disciplinato: dichiarava il metodo, analizzava settecentodue professioni e parlava di posti ad alto rischio di automazione, cioè di capacità tecnologica. Titoli e discorsi lo hanno trasformato in una quota di posti a rischio e infine in una quota di posti da perdere, senza che nessuno correggesse la conversione. La lezione è di metodo: una previsione che trattiene metodo, dati e incertezza si mette da sola fuori portata della verifica. Simone Pieranni, dalla stampa cinese, mostra lo stesso problema dal lato opposto del mondo: due narrazioni del lavoro, una istituzionale fatta di milioni di nuovi posti e figure professionali inedite, l’altra della «linea della mannaia» che scende sui ruoli di ingresso proprio mentre dodici milioni e settecentomila neolaureati si affacciano sul mercato.⁵ Le due versioni convivono perché nessuna dichiara come potrebbe essere smentita.

Le previsioni che si lasciano controllare

Esistono anche previsioni di un altro tipo, e l’archivio ne conserva alcune. Il New York Times racconta gli agenti che bruciano quantità crescenti di token per compiti in apparenza semplici, un fenomeno che mette alla prova l’economia del modello attuale.⁶ Doug O’Laughlin, all’inizio del 2025, aveva scritto che con i modelli di ragionamento i costi marginali sarebbero tornati a esistere nell’economia della tecnologia, rompendo una delle assunzioni su cui si reggeva il modello delle grandi piattaforme: una tesi datata e precisa, che Ben Thompson ha ripreso un anno dopo come cornice per leggere le mosse dei laboratori.⁷ Servaas Storm, a dicembre, ha previsto lo sgonfiamento della bolla dello scaling con quattro ragioni ordinate e verificabili, dai ricavi al debito sulle GPU, dalla rete elettrica ai tempi di consegna: potrà risultare sbagliata, ed è per questo che vale la pena leggerla.⁸ E l’Economist ricorda quanto le proiezioni catastrofiche possano essere smentite dai dati, riportando l’incidenza della demenza scesa del 13% a ogni decennio contro le previsioni su cui si pianificava la sanità.⁹

La controtesi è istruttiva proprio perché ha ragione a metà. Le speculazioni di Kelly descrivevano tendenze e non promettevano stati finali, e per questo, vent’anni dopo, si possono confrontare con ciò che è successo; le previsioni sull’AGI promettono invece uno stato, lo datano e non lo definiscono. Il criterio che ricavo dalla catena è semplice da enunciare e scomodo da applicare: prima di dare peso a una previsione sull’intelligenza artificiale, chiedere che cosa dovrebbe accadere perché risulti sbagliata. Se la risposta è nulla, Pauli aveva già detto tutto.

WR