AGIのタイムラインは非常にバイモーダルです。それは2030年までに、または破綻するかのどちらかです。 過去 10 年間の AI の進歩は、フロンティア システムのトレーニング コンピューティングのスケーリングによって推進されてきました (年間 3.55 倍、4 年間で 160 倍)。 これは、チップ、電力、さらにはトレーニングに使用される生のGDPの一部を見ても、この10年を超えて継続することはできません。 2030年以降、AIの進歩は主にアルゴリズムの進歩によってもたらされなければなりません。しかし、そこでも、低くぶら下がっている果実は摘み取られます(少なくとも深層学習のパラダイムの下では)。 つまり、AGIクレーターの年間確率です。そして、私たちはもっともらしく2040+のタイムラインを見ています。 私はこのダイナミクスについて@_sholtodouglasと@TrentonBrickenと話し合います。