¡MLX-VLM v0.3.0 ya está aquí! Y aporta muchas mejoras 🔥📷 significativas Novedades: - Cuantificación de caché KV - Cuantificación mixta (es decir, 4 bits + 6 bits) - Agregar soporte para la modalidad de audio en el servidor - Gemma3n: Incrustaciones fijas, Vision, pixel casting, multitarea (audio + visión) y OCR - Se corrigió la decodificación china - Paquete de generación y conversión refactorizado Muchas gracias y un saludo a los increíbles colaboradores de mlx-vlm Neil de LMStudio, @pcuenq y Nicekate > pip install -U mlx-vlm Por favor, déjanos un comienzo ⭐️
16.32K