HippoRAG: الذاكرة طويلة الأمد المستوحاة من العلوم العصبية للنماذج اللغوية الكبيرة

لتزدهر في بيئات طبيعية معادية ومتغيرة باستمرار، تطورت أدمغة الثدييات لتخزين كميات كبيرة من المعرفة عن العالم ودمج المعلومات الجديدة باستمرار مع تجنب النسيان الكارثي. بالرغم من الإنجازات المبهرة، لا تزال النماذج اللغوية الكبيرة (LLMs)، حتى مع التوليد المُعزز بالاسترجاع (RAG)، تكافح لدمج كمية كبيرة من الخبرات الجديدة بشكل فعال وكفء بعد التدريب المسبق. في هذا العمل، نقدم HippoRAG، إطار استرجاع جديد مستوحى من نظرية فهرسة الحصين في الذاكرة طويلة الأمد البشرية لتمكين دمج أعمق وأكثر كفاءة للمعرفة عبر الخبرات الجديدة. ينسق HippoRAG بشكل تكاملي بين النماذج اللغوية الكبيرة، ورسوم المعرفة، وخوارزمية Personalized PageRank ليحاكي الأدوار المختلفة لقشرة الدماغ الحديثة والحصين في الذاكرة البشرية. نقارن HippoRAG مع طرق RAG الحالية في الإجابة على الأسئلة متعددة الخطوات ونُظهر أن طريقتنا تتفوق بشكل ملحوظ على أحدث الأساليب، بنسبة تصل إلى 20%. الاسترجاع ذو الخطوة الواحدة باستخدام HippoRAG يحقق أداءً مماثلاً أو أفضل من الاسترجاع التكراري مثل IRCoT، مع كلفة أقل بمقدار 10-30 مرة وسرعة أعلى بمقدار 6-13 مرة، ودمج HippoRAG في IRCoT يجلب مكاسب كبيرة إضافية. أخيرًا، نُظهر أن طريقتنا قادرة على التعامل مع أنواع جديدة من السيناريوهات التي لا تستطيع الطرق الحالية الوصول إليها. الكود والبيانات متاحة على https://github.com/OSU-NLP-Group/HippoRAG.