Cần bao nhiêu năng lượng để đào tạo AGI? ☀️🔋 - Kỷ lục hiện tại: Chạy đào tạo đầy đủ của GPT‑4 ≈ 55 GWh - Hệ thống loại AGI (≈ 100 triệu GPU tương đương H100) dự kiến tiêu thụ năng lượng đào tạo hàng năm ≈ 613,000 GWh - Sự khác biệt bốn bậc độ lớn - Từ 2031-2035 là ước tính tốt nhất Năng lượng là một yếu tố cốt lõi cho AGI Lưu ý 1/ AI có thể dẫn đến những đột phá về năng lượng. Đây là sự cải tiến tự hồi tiếp dưới một hình thức khác vì nó cải thiện quá trình đào tạo cơ bản, làm cho thời gian ngắn hơn. 2/ Sự suy diễn sẽ tạo ra nhu cầu lớn cho GPU. Đào tạo không sử dụng hết tất cả GPU. Điều này sẽ làm cho thời gian dài hơn. Cảm ơn những cuộc trò chuyện tuyệt vời với @KSimback Liên kết đến câu hỏi ChatGPT: