Ekonomika umělé inteligence dosahuje kritického inflexního bodu. Podle výzkumu se předpokládá, že náklady na školení hraničních modelů umělé inteligence dosáhnou do roku 2027 více než 1 miliardy dolarů. Generální ředitel společnosti @AnthropicAI Dario Amodei předpověděl, že v příštím roce vzrostou náklady na školení modelů umělé inteligence na několik miliard dolarů za běh. "V roce 2026 to může být více než 10 miliard dolarů za vyškolení jednoho modelu. Očekává, že do roku 2027 budou mít modelové společnosti ambice vybudovat školicí klastry v hodnotě 100 miliard dolarů."

Hardwarová bariéra je ohromující: Jen pořízení hardwaru používaného k trénování GPT-4 stálo přibližně 800 milionů dolarů, ve srovnání se 40 miliony dolarů za amortizované náklady. Vzhledem k tomu, že náklady na školení rostou o ~2,4 × ročně, stává se neefektivní výpočetní infrastruktura existenční hrozbou pro společnosti zabývající se umělou inteligencí, které nedokážou optimalizovat své výdaje.

Pojďme si rozebrat skutečné náklady: Trénování LLM s parametrem 7B na 1-2 bilionech tokenů vyžaduje ~60 000 hodin GPU H100. Při našem kurzu (1,49 $/hod) je to celkem 89 400 $. Stejná zátěž na AWS na vyžádání? Ohromujících 405 000 dolarů. Ostatní poskytovatelé cloudu se pohybují v rozmezí od 179 400 do 209 400 USD, zatímco místní řešení stojí při úplném amortizaci kolem 300 000 USD.

Naše platforma přináší jasnou výhodu: 2,5× levnější než zlevněné AWS a 3-4× levnější než typičtí poskytovatelé cloudu. On-premise infrastruktura stojí 6-9× více při započtení všech výdajů. Pro týmy, které usilují o cenově dostupné a transparentní škálování hlavních školení LLM, přináší naše nabídka okamžité úspory a provozní jednoduchost.

S tím, jak se modely neustále rozrůstají, není efektivita výpočetních výpočtů jen příjemným lákadlem – je to váš konkurenční příkop. Otázkou není, zda si můžete dovolit optimalizovat, ale zda si můžete dovolit neoptimalizovat. Začněte maximalizovat svůj rozpočet na umělou inteligenci ještě dnes na .

Odkazy Epocha AI. "Trendy v poměru cena/výkon GPU." Epocha AI, 2022, . Hobbhahn, Marius a Tamay Besiroglu. "Trendy v poměru cena/výkon GPU." Epocha AI, 2022, . Datová centra TRG. "Odemykání úspor: Proč GPU NVIDIA H100 překonávají náklady na pronájem AWS." Datová centra TRG, 2023, Cottier, Ben a kol. "Rostoucí náklady na trénování hraničních modelů umělé inteligence." arXiv, 2024,

Podívejte se na celý blog zde: