يمثل التعلّم في السياق (ICL) قدرة قوية لدى نماذج اللغة الكبيرة (LLMs)، تمكنها من التكيف الديناميكي مع المهام أثناء الاستدلال دون الحاجة إلى تعديل المعلمات - إطار مستند إلى مبادئ التعلم التعزيزي المعتمد على النموذج (MBML). كان في الأصل مقصورًا على اتباع التعليمات وإكمال النماذج بعدد قليل من الأمثلة، لكنه الآن تجاوز نطاقه الأولي بشكل كبير. فهو يعمل حاليًا كعامل محفز لتقدمات نماذج اللغة الكبيرة في البُنى الوكيلة، وقدرات الاستدلال، ووحدات التخطيط، بينما يتطور في نفس الوقت إلى محرك تعلم عام يمكنه التكيف السريع عبر المهام المتعددة، والأطر المختلفة، وأنواع الوسائط. استنادًا إلى هذا التطور، نقدم تصنيفًا متعدد الأبعاد للتعلّم في السياق، مما يكشف عن أنماط ناشئة تسهل إنشاء محرك تعلم عام. وعلى خلاف الدراسات السابقة التي ركزت على كيفية استخدام ICL، تفحص هذه الدراسة أيضًا سبب ظهور ICL، ربطًا ظهوره بالحوافز الدائرية الخارجية التي تشكله. يتناول التحليل النقدي للمعايير الحالية، مسلطًا الضوء على قيود في منهجيات التقييم والتحديات التي لم تُحل بعد مثل عدم اليقين في نطاق التعميم، والكفاءة في توسعة الذاكرة والسياق، والجوع إلى البيانات. من خلال تجميع التقدم الأخير والفجوات المستمرة، يوفر هذا المسح أساسًا منظمًا للأبحاث المستقبلية، مع التأكيد على الأنظمة القابلة للتوسع، والموثوقة، والمتنوعة من ICL.
Building similarity graph...
Analyzing shared references across papers
Loading...
Fan Wang
Yu Bo
Ping Shao
University of Science and Technology of China
Institute of Art
Building similarity graph...
Analyzing shared references across papers
Loading...
درس وانغ وآخرون (Mon,) هذا السؤال.
www.synapsesocial.com/papers/68a366a20a429f797332c608 — DOI: https://doi.org/10.36227/techrxiv.175492111.15449662/v1
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: