很高兴地宣布为@OpenRouterAI(种子 + A)筹集 40M 美元,由 a16z 和 Menlo 领导! LLM 推理将成为世界上最大的软件市场。我们已经成为 #1 控制平面。以下是下一步:
大型语言模型(LLMs)应该在网络上占有一席之地,这就是我和@louis_g_v在2023年4月所要构建的。 自那时以来,我们见证了大型语言模型的寒武纪大爆发,目前已有450多个模型上线。 可以把我们想象成大型语言模型的Stripe。公司通常使用3到6个模型,只需一行代码即可更换,所有功能都集中在一个地方,无需锁定。
到目前为止的牵引力: • >$100M GMV,7 个月内增长 10 倍 • 1M+ 开发人员使用我们的 API • 60+ GPU 主机,每周处理数万亿个令牌,~25 毫秒的边缘开销
这为什么会发生? • 推理支出增长速度超过了员工人数 • 模型有停机时间(正如@karpathy所称的“智能停电”),数据政策也出现分歧 • 首席技术官需要可靠性,首席财务官需要成本可见性,首席信息安全官需要路由控制 人工智能公司正在成为事实上的模型路由器...
完整故事请见《华尔街日报》: 感谢 @a16z、@menloventures、@sequoia 以及其他在我们天使轮中支持我们的朋友,包括 @amasad、@OfficialLoganK、@FEhrsam、@dfinzer、@jweinstein 和 @figma!
391.87K