Cal Newport, informatico della Georgetown University, scrive nel giorno della quotazione che chi compra azioni di Anthropic finanzia, in un certo senso, «un culto apocalittico che costruisce anche software per le imprese». Amodei e molti dei suoi credono che la superintelligenza porterà l’utopia o la catastrofe. Secondo Newport la convinzione di dover arrivare primi rende meno attenti ai danni collaterali, e lo mostrano un nuovo modello circa ogni tre settimane, l’impegno sull’auto-miglioramento ricorsivo e regole interne di sicurezza allentate. Newport riconosce ad Amodei di prendere sul serio i rischi più dei concorrenti. Il suo bersaglio è la struttura. In una società benefit gli azionisti, che sarebbero il freno più forte, hanno meno presa, perché una scelta dannosa per l’impresa si può difendere in nome della missione. Il trust controlla quattro dei sette seggi del consiglio, due sono di Dario e Daniela Amodei, e i fondatori hanno il 50,1 per cento dei voti. Fermare un’apocalisse o perseguire un’utopia, scrive Newport, è compito di associazioni, istituti senza scopo di lucro e campagne pubbliche, non di una società quotata. Se Amodei ha torto, il piano d’impresa non regge. Se ha ragione, il destino comune finisce in mano a pochi miliardari che non rispondono al pubblico. Newport chiede al Congresso un’azione più forte e cita lo stesso Amodei, che a settembre si diceva a disagio nel costruire ciò che dovrebbe costruire lo Stato.
Don’t Play Anthropic’s Game
Lettura di mercato Cal Newport sostiene che salvare il mondo e remunerare gli azionisti sono attività diverse, e che la struttura di Anthropic toglie agli investitori proprio il ruolo di freno.
In dialogo con → I Spent a Year Talking to Anthropic Employees. Here’s What They Believe.