🚨 توقف عن التخمين أي نموذج ذكاء اصطناعي يمكن لجهازك تشغيله فعليا. تقوم هذه الأداة بمسح أجهزتك وتخبرك بالضبط أي نماذج اللغة الكبيرة ستعمل. أمر واحد. يسمى llmfit. 497 طراز. 133 مقدما. يقوم بفحص الذاكرة العشوائية والمعالج المركزي وبطاقة الرسوميات، ثم يصنف كل موديل حسب ما يناسب. لا مزيد من تحميل موديل 70B فقط لأشاهد أنه يتعطل. إليك ما يفعله: → يكتشف الأجهزة التي تتعامل معها بالضبط (NVIDIA، AMD، Intel Arc، Apple Silicon) → يختار أفضل كمية تناسب ذاكرتك → يقيم كل نموذج من حيث الجودة، السرعة، الملاءمة، وطول السياق → يتعامل تلقائيا مع إعدادات متعددة وحدات معالجة الرسومات وبنية MoE → يتصل ب Ollama حتى تتمكن من تحميل أفضل مباراة فورا إليكم الجزء الأكثر جنونا: يحتوي Mixtral 8x7B على 46.7 مليار معلمات إجمالية. معظم الأدوات تعتقد أنك تحتاج إلى ذاكرة فيديو 24GB. لكن فقط 12.9 مليار معلمة نشطة لكل رمز. Llmfit يعرف هذا. يسجل الشرط الحقيقي ~6.6GB. هذه الميزة وحدها تفتح نماذج ظن الناس أنهم لا يستطيعون تشغيلها. تركيب التخمير llmfit 6.5 ألف نجم على GitHub. صدأ مدمج. رخصة معهد ماساتشوستس للتكنولوجيا. 100٪ مفتوح المصدر.