التحقق العام لأغراض سلسلة التفكير المُحفز

الكثير من القدرات الحديثة التي أظهرتها نماذج اللغة الكبيرة (LLMs) تنبع أساسًا من قدرتها على استغلال المعلومات السياقية. في هذه الورقة، نستكشف طرقًا لتحسين قدرات الاستنتاج في نماذج اللغة الكبيرة من خلال (1) استكشاف سلاسل تفكير مختلفة و(2) التحقق من صحة الخطوات الفردية لعملية الاستنتاج. نقترح ثلاثة مبادئ عامة يجب أن يلتزم بها النموذج أثناء الاستدلال: (ط) الصلة، (2) الدقة الرياضية، و(3) الاتساق المنطقي. نطبق هذه القيود على خطوات الاستنتاج التي يولدها النموذج لتحسين دقة النتيجة النهائية. تُطبق القيود في شكل محققين: حيث يُطلب من النموذج نفسه التحقق مما إذا كانت الخطوات المُولدة تفي بكل قيد. ولتوجيه النتائج نحو حلول عالية الجودة بشكل أكبر، نستخدم تعقيد خطوات الاستنتاج كمحقق إضافي. نقيم طريقتنا على 4 أنواع مختلفة من مهام الاستنتاج، تشمل ما مجموعه 9 مجموعات بيانات مختلفة. أظهرت التجارب أن طريقتنا أفضل دائمًا من التوليد العادي، وفي 6 من أصل 9 مجموعات بيانات، كانت أفضل من طريقة أفضل من ن حيث يتم أخذ عينات من ن سلاسل تفكير واختيار التوليد ذي التعقيد الأدنى.