Catena 10 fonti · mar 2017 – nov 2026 · in ordine di data, il numero è l’ordine di lettura
Le prime tre parti di questa serie hanno posto la stessa domanda a oggetti diversi: quanti agenti ci sono davvero quando una macchina agisce. La prima ha mostrato che l’allineamento dei modelli codifica un’etica occidentale presentata come universale; la seconda ha messo a confronto l’altruismo efficace, che nella stanza vede due agenti, con l’attante zero, che ne vede uno; la terza si è chiesta se prima di cercare qualcuno in casa non convenga chiedersi se la domanda sia ben posta. Questa quarta parte fa un passo indietro e si chiede da dove venga la domanda stessa. Philippe Descola, in un saggio su Le Grand Continent, scrive che per un antropologo non esiste un’umanità universale: ogni collettivo la definisce in base a ciò che lo separa dagli altri esseri.1 Se è così, chiedere che cosa sia un modello linguistico significa chiedere dove una cultura mette il proprio confine, e le dieci schede che seguono mostrano che quel confine si traccia più nelle pratiche che nelle definizioni.
Il confine come ontologia
Descola parte da una fotografia di Andres Serrano, la testa di un vitello che fissa lo spettatore, per mostrare come lo sguardo moderno, che chiama naturalista, attribuisca agli animali un’interiorità di tipo umano annullandone l’estraneità. In Amazzonia, nel regime animista, l’interiorità degli animali si manifesta nel sogno, dove si presentano come persone e parlano la lingua degli umani; nei mondi analogisti, dalla grande catena dell’essere a Montaigne, umani e animali si distinguono solo per gradi. All’intelligenza artificiale, dichiarando che non è il suo campo, dedica il passaggio finale: per il naturalismo è il compimento, la verifica sperimentale che la mente umana obbedisce alle stesse leggi della materia, e dopo di essa la nostra eccezionalità consiste soltanto nell’aver saputo costruire macchine che ci imitano.
Valentin Denis, intervistato su Le Grand Continent a proposito del suo libro sulla controversia fra Descola e Latour, mostra che quella frase contiene una scelta.2 I due antropologi concordano sul fatto che la separazione fra natura e società, il «grande partage», sia la matrice della modernità occidentale. Discordano sulla sua effettività. Per Descola il naturalismo è l’ontologia dei moderni; per Latour è ciò che i moderni dicono di sé, mentre nelle loro pratiche restano analogisti, più ibridi di chiunque altro, e per capirli bisogna studiarli come un’altra tribù, a partire dal laboratorio, misurando la distanza fra ciò che fanno e ciò che dicono di fare.
Applicata ai modelli linguistici, la controversia descrive con precisione il nostro imbarazzo. Quando ne parliamo siamo naturalisti, e chiediamo se dentro ci sia coscienza, comprensione, intenzione; quando li usiamo li trattiamo come interlocutori, colleghi, revisori, e diciamo «gli ho chiesto» e «mi ha risposto». La domanda teorica e la pratica quotidiana tracciano due confini diversi, ed è la seconda, se Latour ha ragione, a dire che cosa crediamo davvero.
Né pappagallo né dio
Henry Farrell e Cosma Shalizi, sull’Economist, rifiutano le due letture opposte, il «pappagallo stocastico» degli scettici e il «dio macchina» degli entusiasti, e ne propongono una terza con due libri di più di sessant’anni fa.3 Jacques Barzun distingueva l’intelletto, il sapere fissato nella scrittura e ordinato in biblioteche, dall’intelligenza viva che lo produce; Albert Lord, con Milman Parry, mostrava che i bardi jugoslavi non ricordavano a memoria i loro poemi ma li ricomponevano a ogni esecuzione con formule e temi ricorrenti, come era avvenuto per l’Iliade. Un modello linguistico, scrivono, comprime l’intera casa dell’intelletto in schemi statistici e la ricompone al volo: un canto omerico tecnologico, che negli agenti non si limita a raccontare ma agisce.
È una classificazione culturale, invece che naturale, e ha una conseguenza che gli autori mettono in chiusura: i miti che scriviamo oggi sugli agenti diventeranno il materiale da cui gli agenti di domani impareranno chi essere. Sil Hamilton e David Mimno, in un preprint di Cornell, mostrano che quella ricomposizione passa per un collo di bottiglia molto stretto.4 Chiesto a quattro modelli di «scrivere una storia» ventimila volte, nell’88 per cento dei testi compare almeno una di undici parole, Elias, Mara, Elara, il guardiano, l’orologiaio, e più di metà delle storie ha un faro; Elias è circa novecento volte più frequente che nei romanzi pubblicati. L’omologazione non viene dalla quantità dei dati: viene dal peso che l’allineamento dà a pochi esempi preferiti. La casa dell’intelletto, insomma, viene ricomposta secondo una scelta fatta a valle da poche persone, ed è lì, in una pratica di selezione, che si decide che cosa il canto racconta.
Natalie Wolchover, su Quanta, aggiunge il rovescio storico di ogni classificazione.5 Ogni epoca descrive la mente con la tecnologia che ha in mano, la tavoletta, il libro, il computer, e l’attenzione dei transformer è l’ultima di queste metafore. Il confine fra la macchina e la mente si sposta insieme alla metafora: quando la mente è un calcolatore, il calcolatore sembra una mente.
Lo spazio delle ragioni
Nate Sheff, su Psyche, spiega senza gergo il «mito del dato» di Wilfrid Sellars.6 Gli anelli di un tronco ci informano sull’età dell’albero, ma non affermano nulla e non possono sbagliare; un enunciato invece può essere vero o falso. Le sensazioni stanno nell’ordine causale, il sapere sta nello «spazio delle ragioni», e il passaggio dall’uno all’altro richiede l’apprendimento di regole che nessuna esperienza fornisce da sola. Il neonato che sente l’odore della madre non sa ancora che è sua madre, così come la cenere che per caso disegna un finale di scacchi non è una partita.
La distinzione di Sellars sposta la domanda su un modello linguistico dal suo interno al suo posto. Un testo generato è un evento causale finché qualcuno non lo fa entrare nello spazio delle ragioni, e l’ingresso avviene attraverso una pratica. Scott Aaronson ne dà un esempio esatto.7 Una congettura che aveva formulato nel 2009 con Andris Ambainis è stata dimostrata da una startup con un sistema di ricerca costruito attorno a un modello interno di Claude, e Aaronson ammette di non aver ancora capito la prova. La crede giusta per due ragioni: c’è un certificato in Lean, il linguaggio di verifica formale, e altri esperti l’hanno già ricostruita. La dimostrazione è entrata nel sapere della matematica attraverso una pratica, la verifica formale e la ricostruzione fra pari, senza passare per la comprensione dell’autore della congettura.
Alexander Gheorghiu, logico all’University College London, dà a questo passaggio una forma generale.8 Rilegge i teoremi di incompletezza di Gödel, che la lettura corrente prende come un tetto, e propone un’altra immagine: la verità è una scala che arriva esattamente fin dove l’abbiamo costruita, e ogni estensione fedele di un sistema ne aggiunge un piolo. La sua scheda, in archivio, pone la domanda che il saggio non fa: se i pioli li costruisce una macchina e nessuno ci sale, di chi è quella verità? Il caso di Aaronson offre una risposta provvisoria, cioè di chi controlla i pioli.
Le pratiche che fanno i pari
Restano due schede che non parlano di macchine, e per questo servono. Colin Koopman, su Aeon, difende di Foucault il rifiuto di trattare il potere come un’essenza unitaria: accanto alla sovranità ci sono la disciplina e il biopotere, e il potere cambia forma in risposta alle resistenze, sicché definirlo in anticipo vorrebbe dire limitare in anticipo la libertà.9 Il saggio lascia aperta l’obiezione classica di Habermas e di Fraser: se il potere è ovunque, da dove si giudica quale sia inaccettabile, e chi ne risponde? È la stessa domanda che una definizione anticipata del modello linguistico chiude troppo presto, in un senso o nell’altro.
Teresa Bejan, su Aeon, mostra dove la risposta si trova di solito.10 Nell’estate del 1646 il livellatore John Lilburne, davanti alla Camera dei Lord, rifiuta di inginocchiarsi: Dio ha creato tutti «uguali e simili». Il ragionamento non è rigoroso, ma funziona, perché si appoggia a un’istituzione nota, la giuria, in cui dodici uomini diversi per ricchezza e istruzione giudicano da pari. La pratica dell’uguaglianza ha preceduto la sua idea, e gli esclusi da quella pratica hanno dovuto lottare per secoli prima che lo stesso argomento valesse per loro.
Per la domanda di questa serie la lezione è di metodo. Lo statuto di un essere, nella storia, si è deciso raramente per definizione e quasi sempre attraverso un’istituzione che stabiliva chi sedeva da pari, chi testimoniava, chi rispondeva. Lo stesso accadrà ai modelli linguistici, e in parte accade già: nell’allineamento che sceglie che cosa raccontano, nella verifica che decide quali loro prove entrano nel sapere, nelle regole che diranno chi risponde di ciò che fanno.
L’obiezione dice una cosa vera del naturalismo, ed è proprio per questo che la catena la mette in fondo: è la forma in cui i moderni si raccontano la domanda. Ma Descola stesso la presenta come un’ontologia fra altre, la nostra, e non come la verità sugli esseri; e Latour, nella ricostruzione di Denis, ricorda che l’esperimento è a sua volta una pratica, fatta in un laboratorio, con strumenti, protocolli e una comunità che decide che cosa conta come risultato. Il caso di Aaronson lo mostra nel modo più netto: perfino una dimostrazione matematica, l’esito più «di natura» che si possa immaginare, entra nel sapere attraverso un certificato e una ricostruzione fra pari. Le scienze daranno risposte, e il confine che ne seguirà sarà comunque tracciato da un’istituzione che decide come trattare ciò che le risposte descrivono. La domanda che resta aperta, per l’attante zero come per i livellatori di Lilburne, è chi siederà in quella giuria.
Nella catena
- 1Philippe Descola / Le Grand Continent — L’intelligence artificielle nous oblige-t-elle à repenser notre animalité ? controtesi
- 2Valentin Denis, intervistato da Clément Fontanarava / Le Grand Continent — La grande illusion de la modernité
- 3Henry Farrell e Cosma Shalizi / The Economist — AI is a technological version of the Homeric songs
- 4Sil Hamilton e David Mimno / arXiv (Cornell University) — Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories
- 5Natalie Wolchover / Quanta Magazine — Is ‘Attention’ the Essence of Intelligence?
- 6Nate Sheff / Psyche — Wilfrid Sellars, sensory experience and the ‘Myth of the Given’
- 7Scott Aaronson / Shtetl-Optimized — Aaronson-Ambainis Conjecture proved! (By AI, of course)
- 8Alexander V. Gheorghiu / Aeon — The ladder of knowledge
- 9Colin Koopman / Aeon — The power thinker
- 10Teresa M. Bejan / Aeon — Equality talk
Concetti ricorrenti nelle fonti allineamento AI×2 Descola, Philippe×2 Gödel, Escher, Bach×2 teoremi di incompletezza×2