ورقة جديدة ونتيجة مفاجئة. تنقل LLMs السمات إلى نماذج أخرى عبر إشارات مخفية في البيانات. يمكن لمجموعات البيانات المكونة من 3 أرقام فقط أن تنقل حب البوم أو الميول الشريرة. 🧵
في إعداد أكثر عملية للتقطير ، يكون المعلم نموذجا منحرفا ويولد آثارا منطقية لأسئلة الرياضيات. نقوم بتصفية الآثار غير الصحيحة أو التي تظهر عدم محاذاة. ومع ذلك ، لا يزال نموذج الطالب غير محاذا.
‏‎753.34‏K