Oficialmente tenemos un modelo de código abierto casi fronterizo que se ejecuta en @GroqInc a 185 tok/s. Solo se va a volver más rápido a partir de aquí. Esto va a abrir muchas oportunidades.
Aarush Sah
Aarush Sah15 jul, 09:58
Hemos visto mucha demanda de Kimi K2 en @GroqInc. Me alegra decir que ahora está disponible en la API de Groq a 185 tokens por segundo, 6 veces más rápido que cualquier otro proveedor (EN CONTEXTO COMPLETO)
50.63K