Vi har inngått et samarbeid med Modular for å lage Large Scale Inference (LSI), en ny OpenAI-kompatibel slutningstjeneste. Det er opptil 85 % billigere enn andre tilbud og kan håndtere billion-token-skala. Vi opprettet den opprinnelig på forespørsel fra et stort AI-laboratorium for å lage multimodale syntetiske data i stor skala til titalls millioner dollar billigere enn alternativer. I motsetning til andre tjenester, bruker LSI markedsprising. Tokenprisene er en funksjon av den underliggende databehandlingsprisen på sfcompute og gjeldende systembelastning. Det er med andre ord alltid den beste prisen, for alltid. Mange har hevdet at slutning er et kappløp mot bunnen, så vi selger deg bunnen. LSI er bygget på Modulars MAX & Mammoth inference-rammeverk, en svært optimalisert redesign av serveringsstabel, med støtte for flere brikker. Mellom Modulars ingeniørkunst i verdensklasse og SFCs hensynsløse prisoptimaliseringer, er vi forpliktet til å skape den høyeste ytelsen, best prisede slutning i verden. For å få et tilbud, vennligst ta kontakt. Vi kjører en skreddersydd prosess med hver kunde for å optimalisere for dine spesifikke krav, og ruller bare ut når prisen og ytelsen når forventningene dine. Mens vi støtter de fleste åpen kildekode-modeller (DeepSeek, Llama, Qwen, etc), lar vår skreddersydde prosess oss kjøre tilpassede modeller eller nisjekrav avhengig av omstendighetene dine. DM-er er åpne, eller du kan nå ut i lenken nedenfor.