Entusiasta di lanciare DailyBench! DailyBench è un benchmark automatizzato che valuta le API dei modelli all'avanguardia quattro volte al giorno su un fork di HELMLite. Ho creato DailyBench per vedere se potevamo rilevare i fornitori di modelli che quantizzano i pesi, comprimono la cache kv o scambiano modelli durante i picchi di carico.