Демо QVAC от Tether, работающего с локальным выводом на мобильном устройстве с невероятной скоростью, через llama.cpp + LLAMA 3.2 с 1B параметрами. QVAC — это обобщенный механизм вывода и дообучения, способный адаптироваться к любому устройству, от смартфонов до ноутбуков и серверов. Уже поддерживается множество моделей. Будет еще больше. Нет ограничений. Бесконечный интеллект. Скоро в продаже.