TasTe: تعليم النماذج اللغوية الكبيرة الترجمة من خلال التأمل الذاتي

لقد أظهرت النماذج اللغوية الكبيرة (LLMs) أداءً رائعًا في مختلف مهام معالجة اللغة الطبيعية. لقد حسّنت تقنيات مثل ضبط التعليمات كفاءة النماذج اللغوية الكبيرة بشكل فعال في مهمة الترجمة الآلية. ومع ذلك، تفشل الأساليب الحالية في إنتاج ترجمات مرضية تضاهي جودة أنظمة الترجمة الآلية العصبية الموجهة. أحد التفسيرات الممكنة لهذا الفرق هو أن المطالبات المباشرة المستخدمة في هذه المنهجيات لا تستغل القدرات المكتسبة في اتباع التعليمات بشكل كامل. ولهذا الغرض، نقترح إطار عمل TasTe، الذي يعني الترجمة من خلال التأمل الذاتي. تشمل عملية التأمل الذاتي مرحلتين من الاستدلال. في المرحلة الأولى، يُطلب من النماذج اللغوية الكبيرة توليد ترجمات أولية وإجراء تقييم ذاتي لهذه الترجمات في آن واحد. في المرحلة الثانية، يتم تكليف النماذج بتحسين الترجمات الأولية استنادًا إلى نتائج التقييم. تكشف نتائج التقييم في أربع اتجاهات لغوية على معيار WMT22 عن فعالية نهجنا مقارنة بالطرق القائمة. يقدم عملنا نهجًا واعدًا لإطلاق إمكانيات النماذج اللغوية الكبيرة وتعزيز قدراتها في الترجمة الآلية. الأكواد وبيانات المجموعات متوفرة مفتوحة المصدر على https://github.com/YutongWang1216/ReflectionLLMMT.