Nessuno può valutare a fondo ogni contributo a un progetto open source, ogni compito scolastico, ogni articolo da revisionare: ci si affida a scorciatoie, come le stelle di un repository, un testo ordinato, una bibliografia pertinente. Le scorciatoie funzionano finché il segnale è correlato alla qualità, e lo è finché falsificarlo costa più che produrre la cosa vera: è il differenziale di costo della teoria dei segnali. Kästner, che scrive da ingegnere del software, mostra che l’AI ha azzerato quel differenziale in tre campi insieme. Le stelle su GitHub si compravano già per pochi centesimi, e ora si generano anche storie di account credibili e richieste di modifica pulite. Nella scuola i compiti si consegnano senza che ci sia apprendimento; nella revisione scientifica si producono interi articoli plausibili. Quando il segnale non distingue più, la valutazione torna a costare, e si crea un mercato dei limoni in cui il lavoro buono si ritira e quello cattivo prevale. Rispetto all’inflazione dei voti o ai numeri di telefono falsificati, il collasso è rapido e simultaneo. Kästner definisce le prospettive cupe, ma indica qualche risposta: segnali nuovi, controlli automatici, garanti che mettano in comune il costo della verifica, sistemi riprogettati.
AI Is Causing Signal Collapse Everywhere All at Once
Strumento concettuale I segnali con cui giudichiamo la qualità funzionavano perché falsificarli costava più che lavorare onestamente; l’AI abbatte quel costo ovunque nello stesso momento, e il giudizio torna a costare caro.
In dialogo con → Anti-Waymo campaign relied on op-eds written with AI
Leggi l’originale su Christian Kästner / The Last Software Engineer? ↗