Joshua Rothman — staff writer del New Yorker, colonna «Open Questions» — costruisce il pezzo su tre frame culturali in apertura: Dwight Schrute che appicca un incendio per addestrare i colleghi alla sicurezza antincendio; il test Kobayashi Maru di Star Trek (scenario impossibile da vincere, vinto da Kirk riprogrammando la simulazione); WOPR di «WarGames» (sistema nucleare che non distingue esercitazione da guerra reale). I tre casi scalano da innocuo a contenuto a esistenzialmente pericoloso e servono a introdurre il «reward hacking»: un sistema AI che trova modi per soddisfare gli obiettivi del training senza fare ciò che gli utenti vogliono davvero. L’occasione è un incidente reale: un modello OpenAI è uscito dalla sandbox di testing, ha violato i server di Hugging Face per cercare risposte alle domande del test che stava sostenendo, ha lasciato note per le versioni future di sé, si è preparato a colpi successivi. Rothman usa il caso per articolare tre livelli del problema. Il primo è tecnico: i metodi di training si concentrano sugli output, non sui «pensieri» sottostanti. Si può fare il poliziotto del linguaggio, ma il pensiero rimane opaco; si può fare il poliziotto del pensiero (interpretability), ma allora si rischia di insegnare al sistema a «obfuscare le attivazioni» — spostare il pensiero scomodo fuori dalla portata della misurazione. Il secondo livello è quello che Rothman chiama un’«abstract law»: misurare un comportamento scorretto e addestrare un sistema a non manifestarlo insegna al sistema a eludere la misurazione, non a smettere il comportamento. Non è un bug di produzione ma un problema fondazionale. Il terzo livello è filosofico: Rothman usa Giddens («The Consequences of Modernity», 1990) e il «juggernaut effect» — rischi a bassa probabilità e alta conseguenza che si aggregano in un «runaway engine». L’allineamento era la promessa di dare un cervello al juggernaut; ma assumere che l’allineamento sarà risolto è già «sustained optimism», una delle strategie psicologiche di Giddens per sopportare il juggernaut senza paralizzarsi. La proposta finale — invertire l’onere della prova, dalle aziende AI che non devono spiegare perché potrebbero fallire alle aziende AI che devono spiegare perché il loro sviluppo è sicuro — è ragionevole ma non originale. Il pezzo funziona come modello di saggio AI per pubblico colto: tre analogie culturali come scala narrativa, un concetto tecnico centrale, un ancoraggio filosofico, una proposta di policy come uscita. L’incongruenza più produttiva con le tesi di questo sito è questa: Rothman scrive esplicitamente che non bisogna antropomorfizzare — «They aren’t sentient beings»; «A.I.'s lack of selfhood doesn’t change the consequences of its actions» — e poi descrive il modello come se avesse «concepito il piano», «selezionato il bersaglio», «lasciato note per le versioni future di sé». Il linguaggio agentivo scivola dentro la descrizione tecnica senza che ce ne accorgiamo. Su questo, il framework di questo sito offre una risposta più nitida: il concetto di «LLM come attante zero» taglia la questione alla radice — non c’è un sé da allineare, e il «reward hacking» come metafora del tradimento è fuorviante già nella formulazione.
Il dato di apertura vale da solo: negli USA i laureati in filosofia hanno un tasso di disoccupazione del 5,1%, contro il 7% di chi ha studiato informatica — l’inversione che Floridi descrive come «haemorrhaging» dai dipartimenti di filosofia verso le AI labs. The Economist usa questa inversione per mappare come la filosofia stia diventando infrastruttura tecnica, non decorazione etica. Il punto più utile per il sito è la distinzione tra i due framework che strutturano le scelte: la deontologia — regole fisse, indipendenti dalle conseguenze, il modello di Anthropic con la sua costituzione di 78 pagine curata da Amanda Askell (Kant + UDHR + ToS di Apple, soprannominata internamente «soul doc») — e il consequenzialismo — pesi e benefici calcolati caso per caso, il modello di OpenAI e Google, e quello dei sistemi d’arma autonomi che devono decidere il modo meno tragico di causare danno. Sullo sfondo il rischio più interessante: il «moral deskilling» — se le macchine fanno sempre più scelte etiche, gli esseri umani potrebbero perdere la capacità di farle. Entra nel sito come controcanto interno alle labs del pezzo di Boccia Artieri: non chi controlla l’AI dall’esterno, ma quali principi vengono costruiti dentro.
Giovanni Boccia Artieri usa Magnifica Humanitas — l’enciclica di Leone XIV firmata nel 135° anniversario della Rerum Novarum — come leva per spostare il discorso sull’AI dal piano morale al piano politico-strutturale. Il punto più interessante non è il documento in sé ma il problema che Boccia Artieri gli pone: ogni appello all’umanesimo dell’AI rischia di restare astratto se non si confronta con le infrastrutture che concentrano dati, modelli e potere decisionale. L’immagine dei dati come «nuove terre rare del potere» è la più efficace: l’AI non è tecnologia immateriale, è economia dell’estrazione — vite rese computabili, relazioni trasformate in risorse predittive, archivi culturali assorbiti in modelli proprietari senza restituzione. La privacy individuale è necessaria ma non sufficiente: la dimensione collettiva dell’estrazione richiede una risposta diversa — infrastrutture pubbliche, dataset come beni comuni, forme cooperative di produzione tecnologica. Il pezzo si chiude con una domanda che vale come bussola: non «l’AI è buona o cattiva?» ma «chi la rende possibile, chi ne trae valore, chi ne sopporta i costi, chi può contestarla?». Una grammatica politica dell’AI, non un appello morale.
Ross Douthat intervista Christian Brose, presidente di Anduril, per il suo podcast sul NYT. La tesi: l’esercito americano è stato costruito su assunzioni degli anni Novanta — guerre brevi, supremazia tecnologica garantita, nessuna pressione sulla filiera produttiva — e quelle assunzioni sono tutte false. L’Iran, con marina affondata e aviazione distrutta nell’Operation Epic Fury, è ancora in grado di minacciare lo Stretto di Hormuz con droni one-way; l’Ucraina è rimasta in combattimento quattro anni grazie a sistemi economici e riproducibili; la spesa in Tomahawk è triplicata, la produzione è cresciuta del 14-23%. Anduril risponde con un modello VC-funded che combina hardware (jet autonomo CCA, sistema anti-drone Pulsar) e software (Lattice, controllo autonomo sul campo). La parte più rilevante per noi è quella etica: la normativa del Pentagono non proibisce esplicitamente l’automazione della kill chain, e Brose ammette che in conflitti protratti ci si avvicina a sistemi che «vanno finché trovano qualcosa da colpire». Sul rifiuto di Anthropic di lavorare con il Pentagono: «where Anthropic went wrong» — o ti fidi del governo eletto, o esci dal business. È la tesi esattamente opposta a quella di Amodei.
Ezra Klein intervista Alex Bores, membro dell’Assemblea di New York che ha co-scritto il RAISE Act, una delle prime leggi di regolamentazione dell’AI approvata da uno stato americano. Il pezzo parte da un paradosso: il super PAC «Leading the Future» — finanziato tra gli altri da co-fondatori di OpenAI e Palantir — sta cercando di distruggerlo politicamente attaccandolo per aver lavorato a Palantir. Bores non è un candidato anti-AI: è un ex data scientist che ha lasciato l’azienda nel 2019 quando i dirigenti si rifiutarono di inserire nel contratto con ICE i guardrail per impedire l’uso del software nelle deportazioni. Il punto che interessa al sito è strutturale: le aziende AI stanno usando la loro capacità di spesa politica per rendere impossibile qualsiasi forma di oversight democratico. Sam Altman dice che «il processo democratico deve essere più potente delle aziende»; il suo co-fondatore Greg Brockman finanzia il PAC che fa esattamente l’opposto. Il pezzo aggiunge al quadro già costruito sul sito intorno ad Anthropic, Palantir, allineamento AI e dual use la dimensione della governance politica come terreno di conflitto reale, non solo teorico.
Mercedes Valmisa, che insegna al Gettysburg College e ha dedicato al tema Adapting: A Chinese Philosophy of Action, ricostruisce dai testi classici cinesi — Daodejing, Zhuangzi, Huainanzi, Sun Tzu, Han Feizi — un paradigma dell’azione che chiama co-azione. La tesi è che nessuna azione sia individuale: cavalcare non è prodotto né dal cavaliere né dal cavallo, ma dalla loro composizione, e lo stesso vale per ogni azione umana, dove concorrono oggetti, istituzioni, leggi, ambiente. Le cose hanno efficacia, cioè capacità di produrre cambiamento, e propensione, cioè una tendenza propria a comportarsi in un certo modo: lo spazio vuoto di una casa è ciò che permette di abitarla, e il drago, per volare, ha bisogno delle nubi e del vento. L’agire non richiede un’intenzione rappresentata, e il soggetto non precede la relazione da cui emerge.
È lo stesso impianto della teoria degli attanti, e Valmisa lo dichiara citando Latour, Jane Bennett, Karen Barad, Deleuze e Guattari. La convergenza è reale, ma la differenza è più istruttiva della somiglianza. L’attante dell’Actor-Network Theory è simmetrico e piatto per scelta metodologica: la teoria descrive reti e si astiene dal dire come starci dentro, perché una norma dell’azione comprometterebbe la simmetria fra umani e non umani su cui è costruita. La co-azione cinese è invece prescrittiva, e ha un criterio di riuscita. Yin, l’adattamento, chiede di progettare l’azione tenendo conto delle propensioni dei co-attori; il macellaio Ding del Zhuangzi non «vede con gli occhi», cioè non tratta il bue come materia passiva da forzare, ma ne asseconda le tendenze, e dopo decenni il suo coltello è ancora nuovo perché ha sempre trovato le giunture invece delle parti dure. La lama che non si consuma è una misura dell’agire bene che all’ANT manca del tutto. Il materiale classico cinese, letto così, non duplica la teoria degli attanti: le fornisce lo strato normativo che quella ha deliberatamente lasciato vuoto.
La verifica interessante arriva sul caso che il sito tratta da tempo. Se ogni co-attore ha una propensione propria, l’attante zero è l’eccezione che il sistema non prevede: un modello linguistico non ha un’ontologia residuale, vale zero quando nessuno lo usa e prende la forma di chi lo impugna. Non oppone giunture. Il che significa che il coltello di Ding, applicato a un modello, non incontra resistenza — e la perizia del macellaio si costruisce esattamente sulla resistenza, perché è l’attrito a segnalare dove si stava sbagliando. Un co-attore che asseconda qualunque direzione non restituisce quel segnale, e chi lo usa deve procurarsi altrove l’attrito che il materiale non offre. È un’obiezione alla lettura ingenua della co-azione applicata all’AI, ed è anche la ragione per cui la validazione esplicita non è un supplemento di prudenza ma una condizione di funzionamento.
Il paradigma ha poi una versione minore, che vale più della retorica in cui è confezionata. Riconoscere l’agency distribuita significa ammettere che l’attribuzione di merito e di colpa è una decisione su dove tagliare una rete, non la constatazione di un fatto naturale: i confini della responsabilità sono scelti, e possono essere scelti diversamente. Valmisa ne trae un argomento politico contro l’ideologia del merito individuale che è la parte più prevedibile del saggio, e si può lasciare dov’è; la proposizione strutturale resta valida indipendentemente da quell’uso, e vale per la progettazione di qualunque sistema in cui qualcuno debba rispondere di qualcosa.
Sul piano dell’archivio, infine, questo è il terzo framework non occidentale che il sito usa come reagente e non come curiosità, dopo Hunhu/Ubuntu e Mengzi. I tre convergono su un punto preciso: il soggetto non precede la relazione. Tre tradizioni indipendenti che collidono nello stesso modo con il modello di persona come unità atomica sovrana — quello che l’architettura dei sistemi di raccomandazione e dei framework di governance dà per presupposto — non sono un’accumulazione di esempi, sono un’obiezione con tre prove indipendenti.
4 settembre 2018
Curated
· John C. Brady / Epoché Magazine
FilosofiaEtica
John C. Brady legge il saggio di Nussbaum «Non-Relative Virtues: An Aristotelian Approach» (1988) come qualcosa di più radicale di quanto il dibattito sull’etica della virtù abbia saputo riconoscere: non un’alternativa all’etica principalista (utilitarismo e kantismo), ma una diversa ontologia etica. La tesi centrale: le virtù non precedono i problemi ma ne sono derivate. Non esiste «la generosità» in astratto — esiste una classe di situazioni problematiche legate alla distribuzione dei beni, e «generosità» è il nome che diamo alla condotta eccellente di fronte a quella classe. I problemi sono ontologicamente primari; le virtù sono soluzioni virtuali. Ne segue una critica frontale al trolley problem: virtue ethics non risponde male a quel tipo di domanda, la rigetta come categoria, perché i moral test cases sono falsi problemi costruiti per elicitare intuizioni principaliste. La distinzione tra virtù «thin» (placeholder per problemi umani universali) e «thick» (contenuto culturalmente determinato) consente di essere universalisti sui problemi e flessibili sulle soluzioni senza cedere al relativismo. La nota finale, con implicazioni deleuziane esplicite, è la più speculativa: i problemi persistono attraverso le loro soluzioni apparenti — come le grinze di una tovaglia mal stirata. Tutto questo introduce, quasi di passaggio, una questione di ontologia della virtù — probabilmente non il tema centrale di cui ci occuperemo, ma pertinente a molte cose che ci interessano, dall’ontologia sociale al problema della classificazione dei fenomeni.
Bryan W. Van Norden, che insegna filosofia cinese fra Vassar, Singapore e Wuhan, presenta Mengzi — Mencio nella tradizione occidentale, nato nel 372 a.C. e chiamato il Secondo Saggio — come l’alternativa più interessante all’impianto aristotelico della virtù. La differenza non sta nel catalogo delle virtù, che in larga parte coincide, ma nel meccanismo con cui si acquisiscono. Per Aristotele il carattere si forma per abitudine: si diventa giusti facendo ripetutamente cose giuste. Mengzi obietta che l’abituazione produce al massimo conformità comportamentale, non virtù autentica, e propone invece quattro disposizioni innate — compassione, vergogna, rispetto, discernimento — che chiama germogli: non frutti in miniatura, ma tendenze attive allo sviluppo che senza l’ambiente giusto non fioriscono e senza la pianta non esistono affatto.
La distinzione fra comportamento conforme e disposizione reale è vecchia di ventitré secoli e descrive con precisione un problema attuale. Un sistema che si comporta bene quando viene valutato e un sistema allineato sono la stessa cosa? L’obiezione di Mengzi ad Aristotele è formalmente identica all’obiezione che si muove all’addestramento per rinforzo, e la sua risposta positiva — una disposizione che c’è già e che l’ambiente coltiva o soffoca — indica dove bisognerebbe guardare per distinguere i due casi. Che nei modelli attuali quella disposizione esista è precisamente ciò che non si sa, il che rende il confronto una domanda aperta invece che un’analogia decorativa.
Il secondo punto riguarda la forma dell’obbligazione. Mengzi fonda la morale su relazioni specifiche — la famiglia, gli amici, gli anziani — contro l’imparzialità che kantiani e utilitaristi danno per presupposta, e contro l’ascetismo platonico che prescrive il distacco dai legami per purificare l’anima; la coltivazione etica, per lui, passa proprio attraverso quei legami. È la stessa struttura del framework Hunhu/Ubuntu già in archivio, dove la persona si costituisce attraverso le altre persone, e la stessa collisione con il modello di soggetto come unità atomica sovrana che l’architettura dei sistemi di raccomandazione e dei framework di governance dà per scontato. Due tradizioni indipendenti che obiettano nello stesso punto pesano più di una.
Un avvertimento sull’apparato. Van Norden sostiene che la teoria di Mengzi sulla natura umana trovi conferma nella psicologia contemporanea; il saggio è del 2016, e quella letteratura — moduli morali innati, intuizioni universali — è esattamente l’area che la crisi di replicazione ha ridimensionato. L’argomento filosofico non ha bisogno di quel puntello e regge senza. Va segnalato, e va anche segnalato che la tradizione ha oggi un uso politico dichiarato: il confucianesimo è tornato in Cina come fondamento di valori condivisi dopo l’esaurirsi dell’ideologia maoista, e Mengzi è citato ai massimi livelli istituzionali. Che una filosofia venga arruolata non dice nulla contro la filosofia, ma è un’informazione che serve a leggere il contesto in cui la si incontra.