MLX-VLM v0.3.0 來了! 它帶來了許多重要的改進 🔥📷 新功能: - KV 快取量化 - 混合量化(即,4位 + 6位) - 在伺服器中新增音頻模態支持 - Gemma3n:修正嵌入、視覺、像素轉換、多任務(音頻 + 視覺)和 OCR - 修正中文解碼 - 重構生成和轉換包 非常感謝,並向出色的 mlx-vlm 貢獻者 Neil(來自 LMStudio)、@pcuenq 和 Nicekate 致敬 > pip install -U mlx-vlm 請給我們一個星星 ⭐️
16.32K