AGI-Zeitpläne sind sehr bimodal. Entweder bis 2030 oder pleite. Der Fortschritt der KI in den letzten zehn Jahren wurde durch die Skalierung der Trainingsberechnung von Grenzsystemen vorangetrieben (3,55x pro Jahr, 160x über 4 Jahre). Das kann einfach nicht über dieses Jahrzehnt hinaus so weitergehen, egal ob man sich die Chips, die Leistung oder sogar den Bruchteil des rohen BIP ansieht, der für das Training verwendet wird. Nach 2030 muss der Fortschritt der KI vor allem durch algorithmischen Fortschritt erzielt werden. Aber auch dort werden die niedrig hängenden Früchte gepflückt (zumindest unter dem Deep-Learning-Paradigma). Also die jährliche Wahrscheinlichkeit von AGI-Kratern. Und wir schauen plausibel auf Zeitlinien von 2040+. Ich diskutiere diese Dynamik mit @_sholtodouglas und @TrentonBricken: