AGI-tidslinjer er veldig bimodale. Det er enten innen 2030 eller bust. AI-fremgang det siste tiåret har vært drevet av skalering av treningsberegning av grensesystemer (3,55 ganger i året, 160 ganger over 4 år). Dette kan rett og slett ikke fortsette utover dette tiåret, enten du ser på brikker, kraft, til og med brøkdel av rå BNP brukt på trening. Etter 2030 må AI-fremgang for det meste komme fra algoritmisk fremgang. Men selv der vil de lavthengende fruktene bli plukket (i hvert fall under deep learning-paradigmet). Så den årlige sannsynligheten for AGI-kratere. Og vi ser plausibelt på tidslinjer for 2040+. Jeg diskuterer denne dynamikken med @_sholtodouglas og @TrentonBricken: