DailyBench ou banco diário? Porque Jacob tem trabalhado nisso 🏋️ Confira o que ele construiu:
Jacob Phillips
Jacob Phillips22 horas atrás
Animado para lançar o DailyBench! O DailyBench é um benchmark diário automatizado de 4x que avalia APIs de modelo de fronteira em um fork do HELMLite. Construí o DailyBench para ver se poderíamos detectar provedores de modelos quantizando pesos, compactando o cache de kv ou trocando modelos durante picos de carga.
482