Garis waktu AGI sangat bimodal. Itu pada tahun 2030 atau bangkrut. Kemajuan AI selama dekade terakhir telah didorong oleh penskalaan komputasi pelatihan sistem perbatasan (3,55x setahun, 160x selama 4 tahun). Ini tidak dapat berlanjut setelah dekade ini, apakah Anda melihat chip, kekuatan, bahkan sebagian kecil dari PDB mentah yang digunakan untuk pelatihan. Setelah tahun 2030, kemajuan AI sebagian besar harus berasal dari kemajuan algoritmik. Tetapi bahkan di sana buah yang menggantung rendah akan dipetik (setidaknya di bawah paradigma pembelajaran mendalam). Jadi probabilitas tahunan kawah AGI. Dan kami masuk akal melihat garis waktu 2040+. Saya mendiskusikan dinamika ini dengan @_sholtodouglas dan @TrentonBricken: