Ukázka QVAC od Tetheru, který neuvěřitelnou rychlostí spouští lokální inferenci na mobilním zařízení pomocí parametrů llama.cpp + LLAMA 3.2 1B. QVAC je zobecněné odvozování a jemné ladění běhového prostředí, které se dokáže přizpůsobit jakémukoli zařízení, od chytrých telefonů po notebooky a servery. Spousta modelů je již podporována. Další budou následovat. Žádné limity. Nekonečná inteligence. Již brzy
35,11K