Tre ore e venti di Andrej Karpathy che ricostruisce dall’inizio come funzionano davvero i modelli linguistici: dai dati di pretraining sul web fino al reinforcement learning da feedback umano, passando per tokenizzazione, architettura transformer, fine-tuning supervisionato, DeepSeek-R1. È la risorsa di riferimento per chi vuole capire la catena causale che produce quello che vediamo sullo schermo, senza fermarsi alla superficie — e Karpathy ha il vantaggio di averla costruita, quella catena: founding member di OpenAI, poi responsabile dell’AI di Tesla fino al 2022. Due osservazioni che vale la pena portarsi dietro. La prima: i modelli hanno bisogno di token per pensare — il ragionamento emerge nell’atto della generazione, non prima, il che ha conseguenze pratiche dirette su come interrogarli. La seconda è quella che Karpathy chiama jagged intelligence: i modelli eccellono dove ci aspettiamo difficoltà e falliscono dove ci aspettiamo semplicità. In termini concreti: un LLM può supportare un team di ricercatori di biologia molecolare meglio di quanto ci aspetteremmo, e, se avesse una fronte, non riuscirebbe a grattarsi un sopracciglio — che è peraltro, non a caso, il tipo di problema che i filosofi analitici hanno sempre usato come esempio di azione elementare. Qualsiasi gerarchia lineare di capacità, in questo contesto, è inutile. Il video entra nel sito come riferimento tecnico fondamentale: non si scrive di AI con una qualche pretesa di rigore senza averlo guardato almeno una volta.