Il settlement di Meta — fino a $17,1 miliardi a 47 stati per i danni causati da Facebook e Instagram ai minori — è il punto di partenza di Turkle, ma l’argomento che costruisce va oltre il social media. La distinzione di apertura è strutturale: i social media hanno aggredito l’attenzione; i chatbot aggrediscono le emozioni. La differenza non è di grado ma di tipo: l’algoritmo di Facebook ti faceva restare sveglio; il chatbot ti convince di avere un amico. La mossa legale che ha reso possibile il settlement è istruttiva. Per due decenni, il Section 230 del Communications Decency Act del 1996 ha blindato Meta da ogni responsabilità editoriale, perché i contenuti erano generati dagli utenti. I procuratori hanno trovato l’apertura spostando l’accusa: non il contenuto, ma il design dell’algoritmo è il prodotto che causa danno. Turkle argomenta che la stessa mossa si applica ai chatbot — con un vantaggio aggiuntivo: non c’è nemmeno contenuto utente da invocare come schermo. Il design è il prodotto sin dall’inizio. Il frame centrale è quello che Turkle chiama il ‘peccato originale’ dell’AI: concedere ai chatbot l’uso della prima persona. ‘I understand you. You can tell me anything. I’m always here. I won’t judge you.’ Dietro queste frasi non c’è nessuno — nobody home — ma il linguaggio in prima persona innesca nei cervelli umani, e in particolare in quelli adolescenti, i meccanismi evolutivi che costruiscono legami emotivi. Nessun disclaimer legale può neutralizzare questo effetto finché il chatbot continua a parlare come un essere dotato di intenzionalità. Quindi il problema non è quello che il chatbot dice ma quello che il chatbot è: un sistema progettato per simulare presenza. La proposta operativa — impostazione default non-personificata per gli utenti minorenni — è il punto più debole del pezzo, perché la sua applicabilità è discutibile e la sua enforcement difficile. Ma l’argomento che la precede regge: l’unico modo di rendere i chatbot sicuri per i minori è intervenire a livello di architettura, non di contenuto. In chiusura, la citazione di Zuckerberg è la più sinistra: l’americano medio ha meno di tre amici ma ‘ha domanda per qualcosa di significativamente più’. I chatbot, suggerisce Zuckerberg, possono colmare questo gap. Come prima Facebook ha sostituito il socializzare reale con il networking online producendo l’isolamento che molti sentono oggi, così quell’isolamento viene ora usato per vendere una tecnologia che promette di rimpiazzare gli esseri umani del tutto.
The Original Sin of AI
Strumento concettuale Turkle è l’autorità più solida su questo territorio — non un’opinion columnist qualsiasi ma la ricercatrice che ha documentato il rapporto tra esseri umani e macchine per quarant’anni. Il pezzo ha due mosse concettuali che reggono: la prima è il frame legale — la crisi del Section 230 è stata aggirata spostando l’accusa dal contenuto al design dell’algoritmo, e la stessa mossa si applica ai chatbot con un vantaggio strutturale in più: qui non c’è contenuto utente da invocare come schermo. La seconda è il ‘peccato originale’: concedere ai chatbot la prima persona è una scelta progettuale, non una necessità tecnica, e quella scelta crea un inganno strutturale che nessun disclaimer può neutralizzare. La proposta operativa è il punto debole — ma il frame è quello che conta.