很高興地宣佈為@OpenRouterAI(種子 + A)籌集 40M 美元,由 a16z 和 Menlo 領導! LLM 推理將成為世界上最大的軟體市場。我們已經成為 #1 控制平面。以下是下一步:
LLM 應該在 Web 上擁有自己的位置,因此這就是 @louis_g_v 和我在 2023 年 4 月著手構建的內容。 從那時起,我們看到了 LLM 的寒武紀爆炸式增長,今天有 450+ 個實時數據。 把我們想像成 LLM 的 Stripe。公司通常使用 3-6 個模型,在一行代碼中更改它們,將所有功能集中在一個地方,而不會被鎖定。
到目前為止的牽引力: • >$100M GMV,7 個月內增長 10 倍 • 1M+ 開發人員使用我們的 API • 60+ GPU 主機,每周處理數萬億個令牌,~25 毫秒的邊緣開銷
為什麼會這樣? • 推理支出的攀升超過了人數的增長速度 • 模型有停機時間(@karpathy稱之為“智慧限電”),數據策略出現分歧 • CTO 需要可靠性,CFO 需要成本可見性,CISO 需要路由控制 AI 公司本身正在成為事實上的模型路由器......
WSJ 的全文: 感謝 @a16z、@menloventures、@sequoia 和其他支持我們天使輪次的人,包括 @amasad、@OfficialLoganK、@FEhrsam、@dfinzer、@jweinstein 和 @figma!
391.87K