MLX-VLM v0.3.0 发布了! 它带来了许多显著的改进 🔥📷 新功能: - KV 缓存量化 - 混合量化(即,4位 + 6位) - 在服务器中添加对音频模态的支持 - Gemma3n:修复了嵌入、视觉、像素投射、多任务(音频 + 视觉)和 OCR - 修复了中文解码 - 重构了生成和转换包 非常感谢,并向出色的 mlx-vlm 贡献者 Neil(来自 LMStudio)、@pcuenq 和 Nicekate 致敬 > pip install -U mlx-vlm 请给我们留下一个星标 ⭐️
16.31K