Wir freuen uns, eine $40-Millionen-Raising für @OpenRouterAI (Seed + A) ankündigen zu können, angeführt von a16z & Menlo! LLM-Inferenz wird der größte Softwaremarkt der Welt sein. Wir sind die #1 Steuerungsebene geworden. Hier ist, was als nächstes kommt:

LLMs verdienen ihren eigenen Platz im Web, und genau das haben @louis_g_v und ich im April 2023 zu bauen begonnen. Seitdem haben wir eine kambrische Explosion bei LLMs erlebt, mit über 450, die heute aktiv sind. Denken Sie an uns wie an Stripe für LLMs. Unternehmen verwenden typischerweise 3-6 Modelle, ändern sie mit einer einzigen Codezeile und erhalten alle Funktionen an einem Ort, ohne sich festzulegen.

Traktion bisher: • 100 Mio. >$ GMV, 10-mal mehr als in 7 Monaten • 1M+ Entwickler, die unsere API nutzen • 60+ GPU-Hosts, Billionen von Token, die wöchentlich verarbeitet werden, ~25 ms Edge-Overhead

Warum passiert das? • Die Ausgaben für Inferenz steigen schneller als die Anzahl der Mitarbeiter • Modelle haben Ausfallzeiten ("Intelligenz-Brownouts", wie @karpathy sie nannte) und die Datenrichtlinien divergieren • CTOs benötigen Zuverlässigkeit, CFOs benötigen Kostenübersicht, CISOs benötigen Routing-Kontrollen KI-Unternehmen werden de facto selbst zu Modell-Routern...

Die ganze Geschichte im WSJ: Danke an @a16z, @menloventures, @sequoia und die anderen, die uns in unserer Angel-Runde unterstützt haben, einschließlich @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein und @figma!