Key points are not available for this paper at this time.
تحصل نماذج اللغة الكبيرة (LLMs) على قدرات كبيرة في التفكير واتخاذ القرار من الهياكل الفكرية. ومع ذلك، فإن الطرق الحالية مثل شجرة التفكير (Tree of Thought) والأفكار المدعمة بالاستخراج غالبًا ما تقصر في المهام المعقدة بسبب محدودية الاسترجاع المحلي غير الكافي للمعرفة الواقعية وعدم كفاية الاختيار العالمي للاستراتيجيات. تجعل هذه القيود من الصعب على هذه الطرق تحقيق توازن فعال بين الدقة الواقعية والتحسين المنطقي الشامل. لمعالجة هذه القيود، نقدم شجرة التفكير المدعمة بالاستخراج (Retrieval Augmented Thought Tree - RATT)، وهي هيكل فكري جديد يأخذ في الاعتبار كل من التماسك المنطقي العام والصحة الواقعية في كل خطوة من خطوات التفكير. على وجه التحديد، في كل نقطة فرعية للتفكير، يقوم RATT بالتخطيط والاستشراف لاستكشاف وتقييم عدة خطوات محتملة للتفكير، ودمج قدرة التحقق من الحقائق لـ Retrieval-Augmented Generation (RAG) مع قدرة النموذج اللغوي الكبير على تقييم الاستراتيجية العامة. من خلال هذا الجمع بين المعرفة الواقعية والجدوى الاستراتيجية، يقوم RATT بضبط ودمج هيكل شجرة التفكير للبحث عن الفرع الأكثر وعدًا ضمن فضاء البحث. يعزز هذا الهيكل الفكري بشكل كبير اتساق النموذج في الاستنتاج المنطقي وكفاءته في اتخاذ القرار، مما يزيد من قدرة الـ LLM على توليد استنتاجات وقرارات موثوقة بناءً على الهياكل الفكرية. تظهر سلسلة من التجارب على أنواع مختلفة من المهام أن هيكل RATT يتفوق بشكل ملحوظ على الطرق الحالية في الدقة الواقعية والاتساق المنطقي.
Building similarity graph...
Analyzing shared references across papers
Loading...
Jinghan Zhang
Xiting Wang
Weijieying Ren
Building similarity graph...
Analyzing shared references across papers
Loading...
درس تشانغ وآخرون (الثلاثاء) هذا السؤال.
www.synapsesocial.com/papers/68e66361b6db6435875f05d2 — DOI: https://doi.org/10.48550/arxiv.2406.02746