Altre intelligenze

Fainos Mangena, che insegna filosofia all’Università dello Zimbabwe, immagina un’utente di Harare che chiede a un modello linguistico se accettare una promozione che la obbligherebbe a lasciare la propria comunità.¹ La risposta ragiona in termini di autonomia individuale e di vantaggio personale, e si scontra con la struttura etica della cultura in cui la domanda è stata posta, fondata sull’Hunhu/Ubuntu, per cui una persona è tale attraverso le altre. Il problema non è soltanto linguistico, anche se solo quarantadue lingue africane su oltre duemila sono supportate dai modelli: le linee guida sull’intelligenza artificiale della Commissione europea, dell’OCSE e dell’UNESCO condividono un vocabolario, equità, trasparenza, responsabilità, dignità, radicato nell’illuminismo liberale e presentato come universale.

La tesi di questa catena è che l’allineamento dei modelli codifica un’etica occidentale e individualista presentata come universale, e che le tradizioni relazionali offrono un’altra idea di buon comportamento, a condizione di non trasformarle a loro volta in miti identitari.

Il canone

Che l’universalità sia una costruzione recente lo mostra Bryan Van Norden, ricostruendo come il canone filosofico occidentale abbia preso la forma che oggi sembra naturale.² Nel Seicento e nel Settecento la filosofia europea era cosmopolita alla lettera: Leibniz trovava nell’I Ching una corrispondenza con l’aritmetica binaria, Christian Wolff sosteneva in pubblico che Confucio avesse dimostrato la possibilità di una morale senza rivelazione. Il restringimento arriva fra Otto e Novecento, con una storiografia costruita a posteriori attorno a Kant. Due secoli dopo, i laboratori che addestrano i modelli assumono filosofi, e l’Economist osserva che negli Stati Uniti i laureati in filosofia hanno ormai un tasso di disoccupazione più basso di quelli in informatica.³ Il giornale descrive le due impostazioni che si contendono i modelli, la deontologia della costituzione di Anthropic, settantotto pagine che partono da Kant e dalla Dichiarazione universale dei diritti umani, e il consequenzialismo di OpenAI e Google: due scuole dello stesso canone. Wired, raccontando le stesse assunzioni, si chiede quanto ci sia di sostanza e quanto di funzione di marketing, e nella scheda aggiungevo che sono vent’anni che ogni rivoluzione tecnologica promette ai filosofi un’età dell’oro.⁴

Le alternative

Le schede su altre tradizioni suggeriscono che la differenza riguardi la struttura stessa dell’etica, più che il catalogo delle virtù. Van Norden, in un altro pezzo, presenta Mengzi come l’alternativa più interessante ad Aristotele: per Aristotele il carattere si forma per abitudine, per Mengzi l’abitudine produce al massimo conformità, e la virtù cresce da quattro disposizioni innate, compassione, vergogna, rispetto e discernimento, che chiama germogli.⁵ La distinzione ha un’eco precisa nel modo in cui addestriamo i modelli, con premi e correzioni che producono il comportamento atteso senza garantire che vi corrisponda una disposizione. John Brady legge in Martha Nussbaum un’etica in cui i problemi precedono le virtù, e la generosità è il nome della condotta eccellente di fronte a una classe di situazioni: ne segue il rifiuto dei dilemmi artificiali alla maniera del carrello ferroviario, che sono proprio i test su cui si misura l’etica delle macchine.⁶

Mercedes Valmisa ricostruisce dai classici cinesi un paradigma che chiama co-azione, per cui nessuna azione è individuale: cavalcare non è opera né del cavaliere né del cavallo, ma della loro composizione.⁷ È il quadro più adatto che conosca per descrivere il lavoro fra una persona e un modello, in cui chiedersi chi abbia agito conta meno che chiedersi come sia composta l’azione. Alexander Douglas, sullo Zhuangzi, mette in discussione l’idea romantica di un sé autentico da scoprire e da difendere, e ricorda il mito di Hundun, l’imperatore senza volto che muore appena gli vengono aperti i tratti del viso.⁸ Simone Pieranni, riprendendo Yuk Hui, chiama cosmotecnica la visione della tecnica propria di una civiltà, e mostra che in Cina la macchina è pensata come uno dei modi in cui cosmo, uomo e tecnica trovano un equilibrio, più che come rottura o dominio sulla natura: la gara con gli Stati Uniti riguarda anche l’idea di mondo che i modelli incorporano.⁹

La controtesi mette in guardia dal sostituire un universale presunto con un particolare altrettanto presunto, e va presa alla lettera: una tradizione mobilitata da uno Stato per legittimarsi smette di essere una risorsa di pensiero e diventa un’ideologia. La differenza fra i due usi sta in ciò che se ne ricava. Mengzi, Zhuangzi e l’Hunhu/Ubuntu servono a questa catena come strumenti per vedere che cosa l’etica dei modelli dà per scontato, e non come identità da opporre a un’altra. Un’intelligenza artificiale che dovrà rispondere a Harare come a Bergamo avrà bisogno di sapere che la domanda sulla promozione ammette più di una risposta buona.

WR