在我看来,旧金山最酷的公司之一 我会写一篇关于为什么 @sfcompute 是对 GPU 市场未来如此有趣的看法的文章... 与此同时,获取比超大规模云服务商便宜 85% 的 GPU 👇
evan conrad
evan conrad7月3日 01:57
我们与Modular合作创建了大规模推理(LSI),这是一项新的OpenAI兼容推理服务。 它的价格比其他产品便宜多达85%,并且可以处理万亿级的令牌规模。 我们最初是在一家主要AI实验室的要求下创建它的,目的是以比其他方案便宜数千万美元的价格进行大规模多模态合成数据创建。 与其他服务不同,LSI使用市场定价。令牌价格是基于sfcompute上的基础计算价格和当前系统负载的函数。换句话说,它始终是最优价格,永远如此。许多人声称推理是一场价格竞争,因此我们将最低价卖给你。 LSI建立在Modular的MAX和Mammoth推理框架之上,这是一个高度优化的服务堆栈重新设计,支持多种芯片。 在Modular的世界级工程和SFC的无情价格优化之间,我们致力于创造世界上性能最高、价格最优的推理服务。 如需报价,请与我们联系。 我们与每位客户进行定制化流程,以优化您的具体需求,只有在价格和性能达到您的期望时才会推出。虽然我们支持大多数开源模型(DeepSeek、Llama、Qwen等),但我们的定制化流程使我们能够根据您的情况运行自定义模型或小众需求。 私信是开放的,您也可以通过下面的链接与我们联系。
7.42K