¡Emocionado por lanzar DailyBench! DailyBench es un punto de referencia automatizado 4x diario que evalúa las API del modelo de frontera en una bifurcación de HELMLite. Construí DailyBench para ver si podíamos detectar proveedores de modelos que cuantificaban pesos, comprimían el kv-cache o intercambiaban modelos durante las cargas máximas.
21.22K