La codifica agentica sufficientemente avanzata è essenzialmente apprendimento automatico: l'ingegnere stabilisce l'obiettivo di ottimizzazione così come alcune restrizioni sullo spazio di ricerca (le specifiche e i suoi test), poi un processo di ottimizzazione (agenti di codifica) itera fino a quando l'obiettivo non viene raggiunto. Il risultato è un modello blackbox (il codice generato): un artefatto che esegue il compito, che si distribuisce senza mai ispezionare la sua logica interna, proprio come ignoriamo i pesi individuali in una rete neurale. Questo implica che tutti i problemi classici incontrati nell'apprendimento automatico diventeranno presto problemi per la codifica agentica: overfitting rispetto alle specifiche, scorciatoie Clever Hans che non si generalizzano al di fuori dei test, perdita di dati, drift concettuale, ecc. Vorrei anche chiedere: quale sarà il Keras della codifica agentica? Quale sarà il set ottimale di astrazioni di alto livello che consentono agli esseri umani di guidare il 'training' del codice con un sovraccarico cognitivo minimo?