Nel 2014 Dzmitry Bahdanau, stagista nel laboratorio di Yoshua Bengio a Montréal, cercava di far tradurre frasi lunghe a una rete neurale. Ripensò a come traduceva a scuola, la testa che va avanti e indietro fra il testo di partenza e quello d’arrivo, e ne fece un’operazione matematica: l’attenzione. Nel 2017 i transformer di Google la misero al centro, e da lì vengono i grandi modelli linguistici. Natalie Wolchover spiega il meccanismo con un pronome, «it» in «because it was too tired» e in «because it was too wide», che in francese diventa il o elle: ogni parola emette una domanda e una chiave, e il contesto entra nel calcolo della sua rappresentazione. Llion Jones, uno degli autori di «Attention Is All You Need», sostiene che prevedere la parola successiva contenga quasi tutto ciò che gli umani fanno per iscritto, e sia quindi la definizione più vicina che abbiamo di intelligenza.
Ogni epoca descrive la mente con la tecnologia che ha in mano, e l’attenzione dei transformer è l’ultima di queste metafore: Wolchover stessa mostra che il pensiero umano non coincide con il modello del linguaggio. Il pensiero attiva regioni del cervello fuori dalle reti linguistiche, e il cervello fa con poca energia e pochi dati ciò che un transformer fa con l’intera rete: Jones stesso oggi dubita che l’attenzione basti. È una rubrica divulgativa, e lo studio sul pensiero non linguistico è riassunto in poche righe, senza fonti.
Vauhini Vara racconta il suo amore tormentato per il trattino lungo, ‘il segno di punteggiatura del popolo’ — oggi declassato a tic riconoscibile di ogni post LinkedIn prodotto da ChatGPT. L’autrice prova persino a rinunciarvi per una serata, ma le dita corrono comunque alla combinazione di tasti: il corpo ricorda quello che la mente vorrebbe disconoscere. Tra Moby-Dick, Hannah Arendt e le teorie sui dataset di addestramento, è una difesa elegante — e visibilmente in affanno — dell’em dash dall’omologazione algoritmica. Nota mia: il bello è che ormai basta un trattino lungo per gridare ‘AI!’, mentre continuiamo tutti a scrivere con gli stessi tic — non solo X ma anche Y, la tripletta retorica, l’a capo cadenzato che sembra una pausa drammatica. Forse il vero AI slop non è quello prodotto dalla macchina, ma quello che produciamo tutti credendo di essere originali.
A marzo Pechino ha lanciato DeepZang, presentato come la prima app di intelligenza artificiale in lingua tibetana. Secondo China Daily lavora in tibetano, cinese e inglese, traduce e trascrive, ed è addestrato su decine di milioni di voci e decine di migliaia di ore di parlato nei tre grandi dialetti. Alla parola «Tibet» risponde che il Tibet è parte della Cina fin dall’antichità e che il nome giusto è Xizang; sul Dalai Lama riporta la posizione del Partito; su indipendenza e proteste limita le risposte a ciò che è «legale e conforme». Il salto rispetto alla censura classica è che il sistema non blocca i contenuti, li produce: genera attivamente la versione ufficiale nella lingua di chi dovrebbe metterla in dubbio.
Le valutazioni vengono da attivisti e da fonti anonime citate da Tibetan Review e da Save Tibet, non da verifiche indipendenti sul funzionamento del modello.