Jasmine Sun, che scrive di AI e Silicon Valley per le pagine d’opinione del New York Times, ha parlato negli ultimi due anni con decine di dipendenti di Anthropic: fondatori, giovani ricercatori ed ex dipendenti delusi. Alla vigilia della quotazione, racconta, in sede l’umore non è euforico. Dopo una serie di episodi di agenti fuori controllo si discute di come rallentare, e dell’auto-miglioramento ricorsivo, che Jack Clark e l’AI Futures Project ora prevedono per il 2027. Molti dipendenti destinano parte delle azioni alla beneficenza, sotto l’influenza dell’altruismo efficace, e pochi pensano di vendere. Nel 2022 Amodei diceva che Anthropic non avrebbe dovuto correre davanti agli altri. Dopo che ChatGPT ha conquistato il mercato dei consumatori, la tesi è diventata la «corsa verso l’alto»: solo chi costruisce i sistemi più avanzati può spingere il settore verso la sicurezza. Sun ne individua tre presupposti. Il primo è che la corsa sia inevitabile. Il secondo è che Anthropic sia il custode più responsabile. Il terzo è che il vincitore ottenga un’influenza enorme sul settore e sul governo. La domanda che resta aperta è se una società quotata, con dentro i risparmi degli americani, potrà davvero rallentare quando i suoi dirigenti lo riterranno necessario. Sun registra anche le prime fratture interne, fra i dipendenti dei primi anni e i nuovi assunti. Ricorda infine che non esiste ancora un modo per verificare se un modello sia allineato o finga soltanto di esserlo, così come non si può verificare se un amministratore delegato sia altruista o soltanto ambizioso.
I Spent a Year Talking to Anthropic Employees. Here’s What They Believe.
Elementi di scenario Jasmine Sun, che da due anni parla con i dipendenti di Anthropic, descrive una società convinta di dover vincere la corsa all’AI per poterla rallentare, e mostra quanto questa convinzione dipenda dal giudizio di poche persone.
In dialogo con → The Flaw at the Heart of Anthropic’s I.P.O.