Hvor mye energi skal man trene AGI? ☀️🔋 - Nåværende rekord: GPT-4s fulle treningsløp ≈ 55 GWh - System i AGI-klassen (≈ 100 millioner H100-ekvivalente GPUer) anslår et årlig treningsstrømforbruk ≈ 613 000 GWh - Forskjell i fire størrelsesordener - 2031-2035 er beste estimat Energi er en kjerneavhengighet av AGI Advarsler 1/ AI kan føre til energigjennombrudd. Dette er rekursiv selvforbedring i en annen form siden det forbedrer den underliggende treningen og gjør tidslinjene kortere. 2/ Inferens vil være en enorm etterspørsel etter GPUer. Opplæring får ikke alle GPUer. Dette vil gjøre tidslinjene lengre. H/T gode samtaler med @KSimback Link til ChatGPT-spørsmål: