teoria

divario di efficienza dei dati

1 articolo

Il divario fra i dati necessari a un bambino e quelli necessari a un modello linguistico per arrivare alla padronanza di una lingua: circa cinque ordini di grandezza. Un bambino produce frasi grammaticali dopo una decina di milioni di parole udite e ne ha sentite cento milioni da preadolescente; Llama 3.1 ne ha viste quindici trilioni, e i modelli di frontiera forse dieci volte tanto. Nel sito il concetto tiene insieme tre piani che di solito si discutono separati. Il primo è cognitivo: nessuno sa spiegare perché il bambino ce la faccia, e le due risposte migliori — Alison Gopnik, i bambini scelgono attivamente i propri dati; Elizabeth Bonawitz, ragionano sull’insegnante e non solo sull’evidenza — non sono proprietà che si ottengano aggiungendo token. Il secondo è industriale: il pozzo dei dati facilmente disponibili potrebbe esaurirsi già negli anni Trenta, e l’efficienza diventa un vincolo prima che una virtù. Il terzo è politico, ed è quello che il sito considera decisivo: finché il prezzo d’ingresso è di trilioni di token, una lingua che ne ha qualche decina di milioni — il sami, cioè la scala dell’esposizione di un bambino di due anni — non può avere un modello proprio. Il divario non è una curiosità cognitiva: è il fattore che decide chi ha diritto a un modello nella propria lingua.