MLX-VLM v0.3.0 está aqui! E traz muitas melhorias 🔥📷 significativas Quais as novas: - Quantização de cache KV - Quantização mista (ou seja, 4 bits + 6 bits) - Adição de suporte para modalidade de áudio no servidor - Gemma3n: Incorporações fixas, Visão, transmissão de pixels, multitarefa (áudio + visão) e OCR - Decodificação chinesa corrigida - Pacote de geração e conversão refatorado Muito obrigado e grite para os incríveis colaboradores mlx-vlm Neil do LMStudio, @pcuenq e Nicekate > pip install -U mlx-vlm Por favor, deixe-nos um começo ⭐️
16,33K