Marc Brooker, ingegnere di Amazon Web Services che si occupa di sicurezza degli agenti AI e scrive a titolo personale, risponde al No AI Slop Manifesto, che fra i suoi principi mette la comprensione prima della velocità. Brooker condivide il principio ma non la definizione. Il manifesto intende per comprensione la lettura del codice, perché da sessant’anni l’informatica tratta il testo dei programmi come oggetto privilegiato. Le proprietà che contano però non stanno nelle singole righe. Alcune sono precise, come la garanzia che una query non mostri mai dati di transazioni non ancora confermate. Altre sono vaghe, come rendere più semplice la vita dell’utente. Altre ancora emergono solo dal sistema in funzione, come i guasti metastabili, e dal codice non si possono ricavare. Capire che cosa si è costruito significa capire il comportamento del sistema intero, e l’AI, liberando dalla lettura del codice, può aiutare a farlo. All’ingegneria del software, osserva Brooker, mancano ancora gli strumenti che le altre ingegnerie usano per i sistemi complessi, come i diagrammi di Bode o il criterio di stabilità di Nyquist.

WR