MLX-VLM v0.3.0 здесь! И он приносит много значительных улучшений 🔥📷 Что нового: - Квантование кеша KV - Смешанное квантование (т.е. 4 бита + 6 бит) - Добавлена поддержка аудиомодальности на сервере - Gemma3n: Исправлены встраивания, видение, пиксельное преобразование, многозадачность (аудио + видение) и OCR - Исправлено декодирование китайского языка - Переработан пакет генерации и конвертации Большое спасибо и приветствую удивительных участников mlx-vlm Нила из LMStudio, @pcuenq и Nicekate > pip install -U mlx-vlm Пожалуйста, оставьте нам звезду ⭐️
16,33K