teoria
delega epistemica
11 articoli
La discontinuità specifica introdotta dall’AI rispetto all’automazione precedente: non si delega un’operazione, si delega una valutazione — la selezione dei candidati, il merito creditizio, la diagnosi, il ranking delle informazioni. Nel sito è il concetto che spiega perché un’organizzazione che usa AI senza validazione esplicita si trovi a usare output come se fossero conoscenza, senza poter rispondere alle domande che la conoscenza richiede. Il caso più netto fuori dall’AI è editoriale, e serve a mostrare che il problema non nasce con le macchine: nell’estate 2019 il New York Times delegò a una storica esterna la valutazione dell’affermazione centrale del 1619 Project, ricevette una smentita documentata e pubblicò lo stesso. La verifica c’era e non è servita, che è peggio del non averla fatta, perché produce l’apparenza del controllo.
- 1619 Project — Nell’estate 2019 il Times delegò a una storica la valutazione di un’affermazione e poi non ne accettò l’esito: verifica presente e scavalcata.
- epistemia — Si delega la valutazione a un sistema che non la esegue; l’epistemia è l’illusione che la valutazione sia avvenuta.
- Alison Gopnik — Bonawitz: i bambini ragionano sull’insegnante e sul perché stia dicendo quella cosa. Fiducia epistemica prima del linguaggio.
- segregazione scolastica — Brooklyn, 2019: compiti mai corretti, e la bambina si crede brava perché l’unico segnale disponibile glielo dice. Valutare è un atto delegato.
Nel resto della mappa
Vedi la mappa completa →