Dự đoán về AGI (Trí tuệ Nhân tạo Tổng quát) rất phân cực. Hoặc là đạt được vào năm 2030 hoặc không bao giờ. Tiến bộ AI trong thập kỷ qua được thúc đẩy bởi việc mở rộng quy mô tính toán huấn luyện của các hệ thống tiên tiến (tăng 3,55 lần mỗi năm, 160 lần trong 4 năm). Điều này đơn giản là không thể tiếp tục sau thập kỷ này, dù bạn xem xét về chip, năng lượng, hay thậm chí là tỷ lệ GDP thô được sử dụng cho việc huấn luyện. Sau năm 2030, tiến bộ AI chủ yếu phải đến từ tiến bộ thuật toán. Nhưng ngay cả ở đó, những "trái ngọt" dễ hái cũng sẽ bị khai thác hết (ít nhất là dưới mô hình học sâu). Vì vậy, xác suất hàng năm để đạt được AGI sẽ giảm mạnh. Và có khả năng chúng ta đang nhìn vào mốc thời gian sau năm 2040. Tôi thảo luận về động lực này với @_sholtodouglas và @TrentonBricken: