القدرات الناشئة لنماذج اللغة الكبيرة

لقد ثبت أن زيادة حجم نماذج اللغة تحسن بشكل متوقع الأداء وكفاءة العينة في مجموعة واسعة من المهام الثانوية. تناقش هذه الورقة بدلاً من ذلك ظاهرة غير متوقعة نسميها القدرات الناشئة لنماذج اللغة الكبيرة. نعتبر قدرة ما ناشئة إذا كانت غير موجودة في النماذج الأصغر لكنها موجودة في النماذج الأكبر. وبالتالي، لا يمكن التنبؤ بالقدرات الناشئة بمجرد استقراء أداء النماذج الأصغر. وجود مثل هذه الظاهرة يشير إلى أن المزيد من التكبير قد يوسع نطاق قدرات نماذج اللغة.