Încântat să anunț o creștere de 40 de milioane de dolari pentru @OpenRouterAI (cap de serie + A), condusă de a16z și Menlo! Inferența LLM va fi cea mai mare piață de software din lume. Am devenit avionul de control #1. Iată ce urmează:

LLM-urile își merită propriul loc pe web, așa că asta @louis_g_v și cu mine ne-am propus să construim în aprilie 2023. De atunci, am văzut o explozie cambriană în LLM-uri, cu 450+ live astăzi. Companiile folosesc de obicei 3-6 modele, schimbându-le într-o singură linie de cod, obținând toate caracteristicile într-un singur loc fără blocare.

Tracțiune până acum: • > 100 milioane de dolari GMV, în creștere de 10 ori în 7 luni • 1M+ dezvoltatori folosind API-ul nostru • 60+ gazde GPU, trilioane de token-uri procesate săptămânal, ~25 ms edge overhead

De ce se întâmplă asta? • Cheltuielile de inferență cresc mai repede decât numărul de angajați • Modelele au timpi morți ("întreruperi de informații", așa cum le @karpathy numit) și politicile de date diverg • CTO-urile au nevoie de fiabilitate, directorii financiari au nevoie de vizibilitate a costurilor, CISO au nevoie de controale de rutare Companiile de inteligență artificială devin ele însele modele de routere...

Povestea completă în WSJ: Mulțumim @a16z, @menloventures, @sequoia și celorlalți care ne-au sprijinit în runda noastră de îngeri, inclusiv @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein și @figma!