الذكاء الاصطناعي المعسكر التدريبي: تم الانتهاء بنجاح من LLM Fine Tuning and Deployment ، الذي نظمته SCB 10X و @float16cloud. شارك الحدث المعرفة والتقنيات الهامة حول الضبط الدقيق والنشر العملي لنماذج اللغات الكبيرة (LLMs). . 👉الوجبات الجاهزة الرئيسية - بقيادة Typhoon: 5 نصائح لضبط النماذج بشكل فعال . 1. قضاء أكثر من 80٪ من الوقت في إعداد البيانات (الجودة أساسية) 2. قم بإنشاء مجموعتين على الأقل من مجموعات بيانات التقييم: يجب أن تكون إحداهما بيانات غير مرئية تماما 3. أثناء الضبط الدقيق ، استخدم مجموعات القطار والتقييم لمراقبة الإفراط في التجهيز 4. تقييم النموذج قبل وبعد الضبط الدقيق لتأكيد التحسين الحقيقي 5. مراجعة قوالب الدردشة وتحسينها - مطالبات النظام ، وتنسيقات التعليمات ، وما إلى ذلك - تنتج القوالب الجيدة استجابات أكثر دقة وأفضل أداء . 👉الوجبات الجاهزة الرئيسية - بقيادة Float16: 3 تقنيات لجعل LLMs تعمل في تطوير البرمجيات الفعلي . 1. اختر تنسيقات الملفات التي تتوافق مع الغرض: • → .safetensors ل HuggingFace - يفصل أوزان النموذج والرمز المميز عن الهندسة المعمارية • .gguf → ل llama-cpp ، Ollama ، LM-studio - أسهل في الاستخدام 2. حدد التنسيقات بشكل مناسب: • الموترات الآمنة للضبط الدقيق • GGUF للاستدلال (خاصة مع توافق OpenAI API) 3. الإخراج المنظم (القواعد) يحسن جودة الإخراج: • استخدم xgrammar والمخططات العريضة والإرشادات لتشكيل الاستجابات • وضع JSON لاستدعاء الوظيفة بدقة • تحديد القواعد النحوية المخصصة ل SQL ، والاختيارات متعددة الخيارات ، والتنسيقات الفريدة #SCB10X #Typhoon #Float16 #Bootcamp #AIBootCamp
‏‎396‏