¡Emocionado de anunciar un aumento de $ 40 millones para @OpenRouterAI (semilla + A), liderado por a16z y Menlo! La inferencia de LLM será el mercado de software más grande del mundo. Nos hemos convertido en el avión de control #1. Esto es lo que sigue:

Los LLMs merecen su propio lugar en la web, así que eso es lo que @louis_g_v y yo nos propusimos construir en abril de 2023. Desde entonces, hemos visto una explosión cámbrica en los LLMs, con más de 450 activos hoy en día. Piénsalo como Stripe para LLMs. Las empresas suelen utilizar de 3 a 6 modelos, cambiándolos en una línea de código, obteniendo todas las características en un solo lugar sin estar atadas.

Tracción hasta ahora: • >100 millones de dólares de GMV, 10 veces más en 7 meses • +1 millón de desarrolladores que utilizan nuestra API • 60+ hosts de GPU, billones de tokens procesados semanalmente, ~25 ms de sobrecarga perimetral

¿Por qué está sucediendo esto? • El gasto en inferencia está aumentando más rápido que el número de empleados • Los modelos tienen tiempo de inactividad ("apagones de inteligencia", como los llamó @karpathy) y las políticas de datos divergen • Los CTO necesitan fiabilidad, los CFO necesitan visibilidad de costos, los CISO necesitan controles de enrutamiento Las empresas de IA se están convirtiendo en enrutadores de modelos de facto...

Historia completa en el WSJ: ¡Gracias a @a16z, @menloventures, @sequoia y a los demás que nos apoyaron en nuestra ronda de ángeles, incluyendo a @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein y @figma!