Hur mycket energi ska man träna AGI? ☀️🔋 - Nuvarande rekord: GPT-4:s fullständiga träningskörning ≈ 55 GWh - AGI-klassat system (≈ 100 miljoner H100-ekvivalenta GPU:er) beräknad årlig användning av träningseffekt ≈ 613 000 GWh - Skillnad mellan fyra storleksordningar - 2031-2035 är bästa uppskattningen Energi är ett centralt beroende av AGI Varningar 1/ AI kan leda till energigenombrott. Detta är rekursiv självförbättring i en annan form eftersom det förbättrar den underliggande träningen och gör tidslinjerna kortare. 2/ Inferens kommer att vara en enorm efterfrågan på GPU:er. Träningen hämtar inte alla GPU:er. Detta kommer att göra tidslinjerna längre. H/T bra samtal med @KSimback Länk till ChatGPT-frågan: