Démonstration de QVAC de Tether exécutant une inférence locale sur un appareil mobile à une vitesse incroyable, via llama.cpp + LLAMA 3.2 1B paramètres. QVAC est un runtime d'inférence et de fine-tuning généralisé capable de s'adapter à n'importe quel appareil, des smartphones aux ordinateurs portables et serveurs. De nombreux modèles sont déjà pris en charge. D'autres à venir. Pas de limites. Intelligence infinie. Bientôt disponible.
36,59K