دو نسخه از یک مدل را کنار هم می‌گذاریم. نسخهٔ تازه فارسی روان‌تری می‌نویسد، اما در پرسشی که چند شرط دارد بیشتر اشتباه می‌کند. مشکل از فارسی است؟ این نتیجه‌گیری عجولانه است. آنچه تغییر کرده، کل فرایند آموزش و توزیع نمونه‌هاست، نه فقط زبان.
این تفاوت برای سازندهٔ محصول مهم است. کاربر ممکن است پاسخ خوش‌خوان‌تر را بهتر بداند، حتی وقتی یک شرط یا استثنا از آن حذف شده است. باید کیفیت بیان را جدا از درستی پاسخ بسنجیم.
آموزش تازه روی همان توانایی‌های قبلی اثر می‌گذارد
مهارت‌های مدل جدا از هم نیستند. بخشی از پارامترها و بازنمایی‌ها در کارهای مختلف مشترک‌اند. آموزش روی نمونه‌های تازه می‌تواند رفتارهایی را تقویت کند و رفتارهای قبلی را تضعیف کند. نام این پدیده در یادگیری پیوسته «فراموشی فاجعه‌بار» است. البته شدت افت متفاوت است.
Luo و همکاران این مسئله را در فاین‌تیون پیوستهٔ مدل‌های زبانی بررسی کرده‌اند. عنوان مقاله‌شان An Empirical Study of Catastrophic Forgetting in Large Language Models During Continual Fine-tuning است. برای ما هشدار مقاله روشن است: بهتر شدن روی کار تازه، حفظ توانایی‌های قبلی را ثابت نمی‌کند. البته هر آموزش فارسی الزاماً به افت منجر نمی‌شود.
مدل ممکن است راه میان‌بر یاد بگیرد
فرض کنید بیشتر نمونه‌های آموزشی کوتاه‌اند و جواب قطعی دارند. مدل ممکن است یاد بگیرد حتی در پرسش مبهم هم سریع یک جواب قطعی بدهد. اگر نمونه‌ها بیشتر دربارهٔ تشخیص موضوع باشند، خوب شدن در آن‌ها الزاماً به فهم رابطهٔ علت و معلول کمک نمی‌کند.
ترجمهٔ ماشینی داده هم می‌تواند مسئله را عوض کند. حذف یک «مگر»، جابه‌جایی مرجع ضمیر یا تغییر «ممکن است» به «باید»، پاسخ درست را تغییر می‌دهد. مدل ممکن است با دقت از روی داده‌ای یاد بگیرد که خودش اشتباه است.
پس پیش از نسبت دادن افت به زبان، باید بپرسیم: آیا دشواری، تنوع و کیفیت نمونه‌ها حفظ شده‌اند؟ آیا پاسخ‌ها استدلال درست دارند یا فقط ظاهر پاسخ درست را تقلید می‌کنند؟
هر افت نمره‌ای، از دست رفتن استدلال نیست
گاهی مدل پاسخ را می‌داند ولی قالب مورد انتظار آزمون را رعایت نمی‌کند. مثلاً آزمون فقط حرف گزینه را می‌پذیرد و مدل یک جمله می‌نویسد. گاهی هم با جابه‌جایی گزینه‌ها جواب عوض می‌شود. این‌ها خطاهای مهمی‌اند، اما برای توضیح علت افت باید از خطای فهم مسئله جدا شوند.
یک روش مفید، خواندن نمونه‌های اختلاف میان مدل پایه و نسخهٔ تازه است. اگر متن استدلال درست است و فقط استخراج پاسخ مشکل دارد، روش سنجش یا قالب پاسخ نیاز به اصلاح دارد. اگر مدل شرط منفی را نادیده گرفته، مسئله عمیق‌تر است. یک عدد میانگین این دو حالت را از هم جدا نمی‌کند.
در تجربهٔ دانا چه دیدیم؟
در بعضی آموزش‌های ما، عملکرد روی کارهای نزدیک به دادهٔ آموزش بهتر شد ولی فهم متن یا انتقال به مجموعه‌های ناآشنا افت کرد. این نسخه‌ها پذیرفته نشدند. در آموزش مدل زبانی با دادهٔ ترجمه‌شده هم افتی دیدیم که اجازه نمی‌داد روانی پاسخ را نشانهٔ ارتقای کلی بدانیم.
دامنهٔ این مشاهدات محدود است. برای اثبات اینکه یک عامل مشخص علت افت بوده، آزمایش کنترل‌شده لازم است: مثلاً فقط کیفیت داده تغییر کند و بقیهٔ شرایط ثابت بماند. از مشاهدهٔ افت، ادعای یک قانون عمومی دربارهٔ فارسی نمی‌سازیم.
چطور افت را زودتر ببینیم؟
پیش از آموزش، چند توانایی مهم را مشخص کنید و برای هر کدام شاهد مستقل داشته باشید. کنار سنجش کار هدف، پرسش‌های شرطی، استنتاج از متن و نمونه‌های زبان قبلی را هم نگه دارید. پاسخ‌های مدل پایه باید با همان تنظیمات قابل مقایسه باشند.
LoRA حجم پارامترهای قابل آموزش را کم می‌کند، اما حفظ رفتار قبلی را تضمین نمی‌کند. با وجود ثابت ماندن وزن‌های پایه، آداپتور مسیر محاسبه و پاسخ را عوض می‌کند. بازپخش نمونه‌های قبلی و محدود کردن تغییر رفتار می‌توانند کمک کنند؛ نتیجه باید سنجیده شود.
پرسش آخر این نیست که «آیا فارسی زیباتر شد؟» بلکه این است: «در کدام کار بهتر شد، در کدام کار افت کرد و این معامله برای محصول ما پذیرفتنی است؟» پاسخ باید مبنای انتخاب یا رد نسخه باشد.
منابع
- Luo و همکاران، An Empirical Study of Catastrophic Forgetting in Large Language Models During Continual Fine-tuning، پیش‌چاپ ۲۰۲۳.
- Hu و همکاران، LoRA: Low-Rank Adaptation of Large Language Models، پیش‌چاپ ۲۰۲۱.