Gleder meg til å lansere DailyBench! DailyBench er en automatisert 4x daglig benchmark som evaluerer grensemodell-APIer på en gaffel av HELMLite. Jeg bygde DailyBench for å se om vi kunne oppdage modellleverandører som kvantifiserte vekter, komprimerte kv-cachen eller byttet modeller under toppbelastninger.
21,22K