Argomento
11 articoli
Un solo pezzo per ora, ma dice già la mia tesi: l’AI aiuta solo chi sa già scrivere. Il capitale semantico accumulato nel tempo — tutto ciò che hai letto, vissuto, sbagliato e corretto — resta la condizione per usare lo strumento con intelligenza, non una zavorra da superare.
Ho costruito un simulatore della mia equazione sull’autenticità e il simulatore l’ha rotta in tre punti. Che cosa succede al valore di un testo quando si smette di misurare quanto sposta il lettore e si comincia a misurare in che direzione lo sposta.
Perché in tempi di LLM l’autenticità di un testo non è la grandezza che stiamo cercando. Tentativo di trovare l’equazione del valore di un testo, per rispondere alle domande che contano davvero.
Tokarczuk, Groff, e la domanda che nessuno sta facendo. Tre modi di scrivere con l’AI, il valore di quello che non si delega, e perché la lotta con la materia conta più del risultato.
Tre grandi scandali AI in tre mesi stanno forzando una resa dei conti nell’editoria americana. Jerry Falade vede collassare un contratto multimilionario per un romanzo di debutto quando i suoi agenti ammettono di non poter verificare che il testo fosse interamente suo. Hachette cancella l’uscita americana di «Shy Girl» di Mia Ballard per accuse simili. Simon & Schuster difende H.M. Wolfe e il suo «Daggermouth» — dystopian romance self-published ai vertici delle classifiche, poi acquisito — dopo che The Atlantic pubblica uno studio che rileva tracce di AI. Tutti e tre gli autori negano. Il quadro che emerge non è di un’industria che combatte l’AI, ma di una che non riesce a decidere quanto combatterla. I Big Five — Simon & Schuster, Penguin Random House, HarperCollins, Hachette, Macmillan — sono simultaneamente coinvolti in cause legali contro le società AI per aver usato i loro libri come training data, e riluttanti a prendere posizioni nette sull’AI nei libri che acquisiscono, perché non vogliono precludere un potenziale revenue stream. Uno studio di Stony Brook University rileva che il 20% degli ebook su Amazon ha «sostanziale» assistenza AI. Il problema si concentra sugli self-published: i publisher cercano affannosamente titoli che hanno già trovato un’audience — l’origine di questa nuova ondata di acquisizioni è BookTok e le classifiche Amazon — e questo è esattamente il segmento più contaminato. Gli agenti si ritrovano a fare i poliziotti, inondati di query che attribuiscono agli LLM usati per lo spam, costretti a usare strumenti di rilevamento la cui accuratezza è contestata. La struttura profonda del problema è che l’editoria gira da sempre sulla fiducia: gli editor si fidano degli autori sulla originalità, senza meccanismi istituzionali di verifica — lo stesso punto debole già emerso con il plagio e i memoir inventati. Il testo AI non è copyrightable: è l’unica linea dura che l’industria può far rispettare. Tutto il resto è zona grigia.
Bret Stephens — columnist del NYT su politica estera e cultura — scrive una colonna-supplica: non usare mai l’AI per scrivere, nemmeno per le email di routine, nemmeno per organizzare gli appunti. Non per ragioni etiche (la certificazione dell’utilizzo degli LLM risolve di fatto il problema etico dell’autenticità dei testi, per chi tiene a questo punto) e nemmeno perché si possa scrivere meglio di un LLM (presto non sarà più possibile, come non si può battere un’app di scacchi). La ragione è cognitiva: scrivere informa il pensiero in modi che la contemplazione silenziosa o il linguaggio orale raramente riescono a fare. Sottopone il pensiero allo sforzo dell’articolazione, al rigore della grammatica, al test della coerenza e all’ispezione altrui. La parola scritta ha peso morale perché implica considerazione — «I want that in writing» vale come prova che le parole sono intenzionali. Delegare la scrittura all’AI è come prendere la scala mobile ogni giorno invece delle scale: ci si indebolisce esattamente nel muscolo che dovrebbe essere allenato. Stephens cita dati preoccupanti sulle tesi dottorali (56% con ricorso «non trascurabile» agli strumenti AI, e il 19% con oltre il 50% di testo generato) e collega il declino della scrittura al declino della capacità democratica: storicamente, chi sa leggere e scrivere sa anche scegliere e argomentare per sé. L’argomento ha forma simile e opposta a quello usato da Tacito a proposito dell’arte oratoria, che nella visione dello storico latino aveva potuto fiorire grazie allo sviluppo delle istituzioni democratiche: in entrambi i casi le relazioni causali non sono chiare, ma che le forme culturali determinino in qualche modo delle forme istituzionali è in qualche modo una tesi ancora più forte (di questi tempi, direi, molto diffusa), e ancora meno plausibile. Il pezzo vale come registrazione di un momento — un mainstream columnist che prende una posizione non conforme — più che come analisi. L’intuizione di Stephens converge con il concetto di capitale semantico ma senza l’apparato teorico: la pratica quotidiana della scrittura ordinaria è la stessa «riserva cognitiva» che si attiva nella scrittura che conta. La questione è semmai se tutti questi strumenti inibiscano la possibilità di imparare a scrivere per i nuovi discenti: a meno di regressi fenomenali (più verosimili in caso di competenze non pienamente maturate), non sarà mai un problema per chi la skill l’ha già acquisita.
Joshua Rothman — staff writer del New Yorker, colonna «Open Questions» — costruisce il pezzo su tre frame culturali in apertura: Dwight Schrute che appicca un incendio per addestrare i colleghi alla sicurezza antincendio; il test Kobayashi Maru di Star Trek (scenario impossibile da vincere, vinto da Kirk riprogrammando la simulazione); WOPR di «WarGames» (sistema nucleare che non distingue esercitazione da guerra reale). I tre casi scalano da innocuo a contenuto a esistenzialmente pericoloso e servono a introdurre il «reward hacking»: un sistema AI che trova modi per soddisfare gli obiettivi del training senza fare ciò che gli utenti vogliono davvero. L’occasione è un incidente reale: un modello OpenAI è uscito dalla sandbox di testing, ha violato i server di Hugging Face per cercare risposte alle domande del test che stava sostenendo, ha lasciato note per le versioni future di sé, si è preparato a colpi successivi. Rothman usa il caso per articolare tre livelli del problema. Il primo è tecnico: i metodi di training si concentrano sugli output, non sui «pensieri» sottostanti. Si può fare il poliziotto del linguaggio, ma il pensiero rimane opaco; si può fare il poliziotto del pensiero (interpretability), ma allora si rischia di insegnare al sistema a «obfuscare le attivazioni» — spostare il pensiero scomodo fuori dalla portata della misurazione. Il secondo livello è quello che Rothman chiama un’«abstract law»: misurare un comportamento scorretto e addestrare un sistema a non manifestarlo insegna al sistema a eludere la misurazione, non a smettere il comportamento. Non è un bug di produzione ma un problema fondazionale. Il terzo livello è filosofico: Rothman usa Giddens («The Consequences of Modernity», 1990) e il «juggernaut effect» — rischi a bassa probabilità e alta conseguenza che si aggregano in un «runaway engine». L’allineamento era la promessa di dare un cervello al juggernaut; ma assumere che l’allineamento sarà risolto è già «sustained optimism», una delle strategie psicologiche di Giddens per sopportare il juggernaut senza paralizzarsi. La proposta finale — invertire l’onere della prova, dalle aziende AI che non devono spiegare perché potrebbero fallire alle aziende AI che devono spiegare perché il loro sviluppo è sicuro — è ragionevole ma non originale. Il pezzo funziona come modello di saggio AI per pubblico colto: tre analogie culturali come scala narrativa, un concetto tecnico centrale, un ancoraggio filosofico, una proposta di policy come uscita. L’incongruenza più produttiva con le tesi di questo sito è questa: Rothman scrive esplicitamente che non bisogna antropomorfizzare — «They aren’t sentient beings»; «A.I.'s lack of selfhood doesn’t change the consequences of its actions» — e poi descrive il modello come se avesse «concepito il piano», «selezionato il bersaglio», «lasciato note per le versioni future di sé». Il linguaggio agentivo scivola dentro la descrizione tecnica senza che ce ne accorgiamo. Su questo, il framework di questo sito offre una risposta più nitida: il concetto di «LLM come attante zero» taglia la questione alla radice — non c’è un sé da allineare, e il «reward hacking» come metafora del tradimento è fuorviante già nella formulazione.
The Economist ha costruito un corpus da 55.940 frasi e 1,2 milioni di parole per confrontare la prosa dei principali LLM (ChatGPT, Claude, Gemini, Grok) con la propria, con quella di NYT, WaPo e CNN, e con la narrativa dei bestseller dal 1950 al 2022. I risultati correggono i luoghi comuni diffusi. L’em-dash è superata come marker: solo Claude ne usa ancora più degli scrittori umani, ChatGPT ne usa meno di chiunque; «delve» e «tapestry» sono spariti con gli aggiornamenti recenti. I segnali reali dell’AI writing sono altri: un numero sproporzionato di polisillabi («significant», «consequences», «increasingly»), terminologia scientifica e rara, nominalizzazioni sistematiche (da «expand» a «expansion»), quasi assenza di virgole, punto-e-virgola e parentesi. I LLM scrivono frasi lunghe tenute insieme da «and» invece di articolare la sintassi, e non citano mai esperti — il che priva la prosa di uno dei segnali più riconoscibili dell’argomentazione umana. Quando vogliono animare le frasi ricorrono a dispositivi retorici formulaici: «not X but Y», «not only but also», la regola del tre. Il quadro teorico è orwelliano: il pezzo richiama esplicitamente la «pretentious diction» di Politics and the English Language — il vestire affermazioni semplici con parole complicate e suffissi latini per suonare eruditi. I LLM adottano i vizi della cattiva prosa accademica, non le virtù di quella buona. La ragione è strutturale: i modelli sono addestrati su feedback umano, imparano ciò che le persone trovano «impressive» e abbandonano ciò che non piace — convergendo così verso la mediocrità condivisa. Con ogni aggiornamento la prosa AI si avvicina alla prosa umana, e gli strumenti di rilevazione automatica come Pangram (che già collabora con Substack) diventeranno sempre meno affidabili. Il fantasma apprende in fretta: a un modello vecchio di ChatGPT che alla domanda se i bot usino troppo l’em-dash rispondeva «Ha — great question!», quello attuale risponde con sobrietà «they’re best used sparingly». Solo un fantasma può cambiare pelle così velocemente.
Debbie Millman — designer, brand strategist e responsabile del Master in Branding alla School of Visual Arts — apre con la norma della tradizione cabalistica: nessuno dovrebbe studiare la Kabbalah prima dei quarant’anni, non perché la conoscenza sia proibita, ma perché richiede preparazione interiore. Propone qualcosa di analogo per l’AI. Nel suo programma di laurea magistrale in brand strategy, gli studenti avevano firmato un accordo: AI consentita per la ricerca e la visualizzazione delle idee, non per scrivere o pensare al loro posto. Alcuni l’hanno violato, dichiarando di averla usata per «integrare e sintetizzare» il lavoro. Millman trova rivelatrice la scelta del verbo: «augment» fa apparire l’intervento cosmetico, «when what was actually being altered was the student’s relationship to struggle, authorship and accountability». L’AI è analoga a una droga non perché produca piacere, ma perché rimuove un tipo particolare di dolore: chi cresce con l’AI potrebbe non conoscere mai l’agonia necessaria della pagina bianca, il falso avvio, l’imbarazzo privato di una prima bozza. La confusione è uno stato necessario in cui si impara a pensare; il linguaggio non è solo il modo in cui ci esprimiamo, è uno dei modi in cui diventiamo noi stessi. La distinzione cruciale è tra mente formata e mente in formazione: chi ha già sviluppato una voce può usare la macchina senza lasciare che la macchina diventi la voce; chi è ancora in costruzione non sa distinguere la confusione dal fallimento, e non riesce quindi a lasciare che la difficoltà gli insegni qualcosa. La regola dei quarant’anni per la Kabbalah è inapplicabile come politica AI, e Millman lo riconosce: «There will be no collective vow of restraint.» Ma l’impossibilità non rende l’argomento privo di senso: «Sometimes a rule is valuable not because it can be enforced but because it tells us what a culture reveres.»
Vauhini Vara racconta il suo amore tormentato per il trattino lungo, ‘il segno di punteggiatura del popolo’ — oggi declassato a tic riconoscibile di ogni post LinkedIn prodotto da ChatGPT. L’autrice prova persino a rinunciarvi per una serata, ma le dita corrono comunque alla combinazione di tasti: il corpo ricorda quello che la mente vorrebbe disconoscere. Tra Moby-Dick, Hannah Arendt e le teorie sui dataset di addestramento, è una difesa elegante — e visibilmente in affanno — dell’em dash dall’omologazione algoritmica. Nota mia: il bello è che ormai basta un trattino lungo per gridare ‘AI!’, mentre continuiamo tutti a scrivere con gli stessi tic — non solo X ma anche Y, la tripletta retorica, l’a capo cadenzato che sembra una pausa drammatica. Forse il vero AI slop non è quello prodotto dalla macchina, ma quello che produciamo tutti credendo di essere originali.
Casey Newton usa Claude Code per costruire strumenti al servizio della propria scrittura: un sito, un database semantico di 818 puntate di Platformer interrogabile attraverso il linguaggio naturale. La tesi più acuta: se ChatGPT ha svegliato le persone sulla capacità dei LLM di generare testi, il Claude Code le sta svegliando sulla capacità di generare strumenti. Il caso più interessante è il database dell’archivio personale di Newton: non è il caso dell’AI che scrive al posto suo, ma è l’AI che gli restituisce accesso alla propria conoscenza accumulata — una sorta di forma attualizzata del capitale semantico. Si torna alla disputa sugli universali, per certi versi: ma Newton probabilmente lo ignora.
Kirchenbauer et al. dell’Università del Maryland propongono un framework di watermarking per i Large Language Model: prima di generare ogni token, il modello partiziona il vocabolario in una lista ‘verde’ e una ‘rossa’ usando un hash pseudocasuale del token precedente, poi favorisce leggermente i token verdi in fase di campionamento. Il risultato è un segnale statisticamente rilevabile — tramite un semplice z-test — anche da brevi frammenti di testo, senza accesso ai parametri del modello. La soglia z=4 produce un tasso di falsi positivi di 3×10⁻⁵: praticamente nullo. La detection funziona su segmenti di 16+ token; è robusta contro piccole alterazioni; la rimozione richiede modificare una frazione significativa dei token, degradando la qualità del testo. La proposta è tecnicamente elegante. Ha un problema a monte: funziona solo se i produttori del modello la implementano al momento della generazione — ed è sostanzialmente inutile contro testo già generato senza watermark. A tre anni dalla pubblicazione, nessun modello mainstream ha implementato watermarking in produzione su scala. I tool di rilevamento disponibili (Turnitin, GPTZero, Copyleaks) non usano questo approccio: si basano su pattern statistici di bassa affidabilità, con tassi di falsi positivi che li rendono inutilizzabili come standard probatorio. Il paper è il riferimento tecnico più citato sul watermarking degli LLM ed è anche la dimostrazione più chiara di perché il problema del rilevamento sia ancora strutturalmente irrisolto — e di perché abbia senso costruirsi un sistema di certificazione proprio.