teoria

delega epistemica

17 articoli

La discontinuità che l’intelligenza artificiale introduce rispetto all’automazione precedente: si delega una valutazione, oltre che un’operazione, come la selezione dei candidati, il merito creditizio, la diagnosi, l’ordinamento delle informazioni. Un’organizzazione che usa l’AI senza validazione esplicita finisce per trattare gli output come conoscenza senza poter rispondere alle domande che la conoscenza richiede. Il caso più netto viene da fuori dell’AI: nell’estate 2019 il New York Times affidò a una storica la verifica dell’affermazione centrale del 1619 Project, ricevette una smentita documentata e pubblicò lo stesso, producendo l’apparenza del controllo. Il corpus cresciuto da settembre sposta il problema sulla ricerca e sulla politica. Quando una macchina può proporre qualunque ipotesi, il collo di bottiglia diventa la validazione, perché gli errori sembrano ragionevoli finché un esperto non vede che cosa manca; quando risolve un problema matematico senza farlo capire, la ricerca deve dire che cosa cercava davvero. Nel 2026 un decimo delle parole pronunciate nei dibattiti del parlamento britannico è scritto da un modello, e i dati generati inquinano a loro volta quelli con cui si addestrano i modelli successivi. Quando una macchina produce il risultato, il bene scarso diventa la comprensione di chi deve giudicarlo.

  • 1619 Project — Nell’estate 2019 il Times delegò a una storica la valutazione di un’affermazione e poi non ne accettò l’esito: verifica presente e scavalcata.
  • epistemia — Si delega la valutazione a un sistema che non la esegue; l’epistemia è l’illusione che la valutazione sia avvenuta.
  • Alison Gopnik — Bonawitz: i bambini ragionano sull’insegnante e sul perché stia dicendo quella cosa. Fiducia epistemica prima del linguaggio.
  • segregazione scolastica — Brooklyn, 2019: compiti mai corretti, e la bambina si crede brava perché l’unico segnale disponibile glielo dice. Valutare è un atto delegato.
Nel resto della mappa Vedi la mappa completa →