تصنيف المخاطر التي تسببها نماذج اللغة

يتطلب الابتكار المسؤول في نماذج اللغة واسعة النطاق (LMs) استشرافًا وفهمًا عميقًا للمخاطر التي قد تشكلها هذه النماذج. تطور هذه الورقة تصنيفًا شاملاً للمخاطر الأخلاقية والاجتماعية المرتبطة بنماذج اللغة. نحدد واحدًا وعشرين خطرًا، مستفيدين من الخبرات والأدبيات في علوم الحاسوب، واللسانيات، والعلوم الاجتماعية. نضع هذه المخاطر ضمن تصنيفنا المكون من ستة مجالات للمخاطر: الأول: التمييز، وخطاب الكراهية، والاستبعاد، الثاني: مخاطر المعلومات، الثالث: أضرار المعلومات المضللة، الرابع: الاستخدامات الخبيثة، الخامس: أضرار التفاعل بين الإنسان والحاسوب، والسادس: الأضرار البيئية والاجتماعية والاقتصادية. للمخاطر التي تم ملاحظتها بالفعل في نماذج اللغة، نناقش الآلية المسببة للضرر، والأدلة على وجود الخطر، وأساليب التخفيف منه. كما نصف ونحلل المخاطر التي لم تُلاحظ بعد ولكن يُتوقع حدوثها بناءً على تقييمات لتقنيات لغوية أخرى، ونضعها ضمن نفس التصنيف. ونؤكد أن مسؤولية المؤسسات هي الانخراط في التخفيفات التي نناقشها في الورقة. نختتم بتسليط الضوء على التحديات والاتجاهات للبحوث المستقبلية حول تقييم المخاطر وتخفيفها بهدف ضمان تطوير نماذج اللغة بمسؤولية.