热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
很高兴地宣布为@OpenRouterAI(种子 + A)筹集 40M 美元,由 a16z 和 Menlo 领导!
LLM 推理将成为世界上最大的软件市场。我们已经成为 #1 控制平面。以下是下一步:

大型语言模型(LLMs)应该在网络上占有一席之地,这就是我和@louis_g_v在2023年4月所要构建的。
自那时以来,我们见证了大型语言模型的寒武纪大爆发,目前已有450多个模型上线。
可以把我们想象成大型语言模型的Stripe。公司通常使用3到6个模型,只需一行代码即可更换,所有功能都集中在一个地方,无需锁定。
到目前为止的牵引力:
• >$100M GMV,7 个月内增长 10 倍
• 1M+ 开发人员使用我们的 API
• 60+ GPU 主机,每周处理数万亿个令牌,~25 毫秒的边缘开销
这为什么会发生?
• 推理支出增长速度超过了员工人数
• 模型有停机时间(正如@karpathy所称的“智能停电”),数据政策也出现分歧
• 首席技术官需要可靠性,首席财务官需要成本可见性,首席信息安全官需要路由控制
人工智能公司正在成为事实上的模型路由器...
完整故事请见《华尔街日报》:
感谢 @a16z、@menloventures、@sequoia 以及其他在我们天使轮中支持我们的朋友,包括 @amasad、@OfficialLoganK、@FEhrsam、@dfinzer、@jweinstein 和 @figma!
391.87K
热门
排行
收藏