Ve spolupráci se společností Modular jsme vytvořili Large Scale Inference (LSI), novou inferenční službu kompatibilní s OpenAI. Je až o 85% levnější než jiné nabídky a zvládne škálování bilionů tokenů. Původně jsme jej vytvořili na žádost velké laboratoře umělé inteligence, abychom mohli vytvářet multimodální syntetická data ve velkém měřítku za desítky milionů dolarů levněji než alternativy. Na rozdíl od jiných služeb používá LSI tržní ceny. Ceny tokenů jsou funkcí podkladové výpočetní ceny na sfcompute & aktuální zátěži systému. Jinými slovy, je to vždy nejlepší cena, navždy. Mnozí tvrdili, že inference je závod ke dnu, takže vám prodáváme dno. LSI je postavena na inferenčním frameworku MAX & Mammoth společnosti Modular, což je vysoce optimalizovaný redesign servírovacího stacku s podporou více čipů. Díky prvotřídnímu inženýrství společnosti Modular a nemilosrdným cenovým optimalizacím SFC jsme odhodláni vytvořit nejvyšší výkon a nejlepší cenovou inferenci na světě. Chcete-li získat cenovou nabídku, obraťte se na nás. S každým zákazníkem provádíme proces na míru, abychom optimalizovali vaše specifické požadavky, a zavádíme jej pouze tehdy, když cena a výkon splňují vaše očekávání. I když podporujeme většinu modelů s otevřeným zdrojovým kódem (DeepSeek, Llama, Qwen atd.), náš proces na míru nám umožňuje spouštět vlastní modely nebo specializované požadavky v závislosti na vašich okolnostech. DM jsou otevřeny nebo se na ně můžete obrátit pomocí odkazu níže.