MLX-VLM v0.3.0 リリース そして、それは多くの重要な改善🔥📷をもたらします 新機能: - KVキャッシュの量子化 - 混合量子化(つまり、4ビット+ 6ビット) - サーバーでのオーディオモダリティのサポートを追加 - Gemma3n:固定エンベディング、ビジョン、ピクセルキャスティング、マルチタスク(オーディオ+ビジョン)、OCR - 中国語のデコードを修正 - リファクタリングされたパッケージの生成と変換 LMStudio、@pcuenq、Nicekateの素晴らしいmlx-vlmコントリビューターNeilに感謝します > pip install -U mlx-vlm スタート⭐️をお任せください
16.32K