MLX-VLM v0.3.0 đã có mặt! Và nó mang đến nhiều cải tiến đáng kể 🔥📷 Những gì mới: - Lượng tử hóa KV Cache - Lượng tử hóa hỗn hợp (tức là, 4bit + 6bit) - Thêm hỗ trợ cho phương thức âm thanh trên máy chủ - Gemma3n: Sửa các nhúng, Tầm nhìn, chuyển đổi pixel, đa nhiệm (âm thanh + tầm nhìn) và OCR - Sửa lỗi giải mã tiếng Trung - Tái cấu trúc gói generate và convert Cảm ơn rất nhiều và cảm ơn những người đóng góp tuyệt vời của mlx-vlm Neil từ LMStudio, @pcuenq và Nicekate > pip install -U mlx-vlm Xin hãy để lại cho chúng tôi một sao ⭐️
16,32K