熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
很高興地宣佈為@OpenRouterAI(種子 + A)籌集 40M 美元,由 a16z 和 Menlo 領導!
LLM 推理將成為世界上最大的軟體市場。我們已經成為 #1 控制平面。以下是下一步:

LLM 應該在 Web 上擁有自己的位置,因此這就是 @louis_g_v 和我在 2023 年 4 月著手構建的內容。
從那時起,我們看到了 LLM 的寒武紀爆炸式增長,今天有 450+ 個實時數據。
把我們想像成 LLM 的 Stripe。公司通常使用 3-6 個模型,在一行代碼中更改它們,將所有功能集中在一個地方,而不會被鎖定。
到目前為止的牽引力:
• >$100M GMV,7 個月內增長 10 倍
• 1M+ 開發人員使用我們的 API
• 60+ GPU 主機,每周處理數萬億個令牌,~25 毫秒的邊緣開銷
為什麼會這樣?
• 推理支出的攀升超過了人數的增長速度
• 模型有停機時間(@karpathy稱之為“智慧限電”),數據策略出現分歧
• CTO 需要可靠性,CFO 需要成本可見性,CISO 需要路由控制
AI 公司本身正在成為事實上的模型路由器......
WSJ 的全文:
感謝 @a16z、@menloventures、@sequoia 和其他支持我們天使輪次的人,包括 @amasad、@OfficialLoganK、@FEhrsam、@dfinzer、@jweinstein 和 @figma!
391.87K
熱門
排行
收藏