teoria
collasso modale
1 articolo
Tendenza di un modello generativo a concentrare ciò che produce su un insieme ristretto di risposte, osservata nei modelli linguistici dopo l’introduzione dell’addestramento supervisionato e del rinforzo da preferenze umane. Nel sito è il nome tecnico dell’omologazione della scrittura assistita: quando i modelli convergono sugli stessi nomi, luoghi e giri di frase, convergono anche i testi di chi li usa.
- allineamento AI — Il prezzo meno visibile dell’allineamento: premiare poche risposte preferite restringe ciò che il modello sa ancora produrre.
- scrittura — Quando la scrittura passa per lo stesso modello converge sugli stessi nomi, luoghi e mestieri.
Nel resto della mappa
Vedi la mappa completa →