Le tempistiche AGI sono molto bimodali. O entro il 2030 o fallirà. I progressi dell'IA nell'ultimo decennio sono stati guidati dalla scalabilità del calcolo dell'addestramento dei sistemi di frontiera (3,55 volte all'anno, 160 volte in 4 anni). Questo semplicemente non può continuare oltre questo decennio, sia che si guardi ai chip, alla potenza, persino alla frazione del PIL grezzo utilizzato per l'allenamento. Dopo il 2030, il progresso dell'IA dovrà provenire principalmente dal progresso algoritmico. Ma anche lì i frutti a portata di mano saranno colti (almeno secondo il paradigma del deep learning). Quindi la probabilità annuale di crateri AGI. E stiamo plausibilmente guardando alle scadenze del 2040+. Discuto questa dinamica con @_sholtodouglas e @TrentonBricken: