MLX-VLM v0.3.0 ist da! Und es bringt viele bedeutende Verbesserungen 🔥📷 Was ist neu: - KV Cache Quantisierung - Gemischte Quantisierung (d.h. 4bit + 6bit) - Unterstützung für Audio-Modus im Server hinzugefügt - Gemma3n: Fixierte Embeddings, Vision, Pixel-Casting, Multi-Task (Audio + Vision) und OCR - Fixierte chinesische Dekodierung - Refaktorisierte Generate- und Convert-Pakete Vielen Dank und ein großes Dankeschön an die großartigen mlx-vlm Mitwirkenden Neil von LMStudio, @pcuenq und Nicekate > pip install -U mlx-vlm Bitte hinterlasst uns einen Stern ⭐️
16,32K