التحيز المعرفي في اتخاذ القرارات الحساسة باستخدام النماذج اللغوية الكبيرة

توفر النماذج اللغوية الكبيرة (LLMs) إمكانيات كبيرة كأدوات لدعم مجموعة متزايدة من مهام اتخاذ القرار. ومع ذلك، وبالنظر إلى تدريبها على بيانات بشرية (مُنشأة)، يمكن للنماذج اللغوية الكبيرة أن ترث التحيزات المجتمعية ضد الفئات المحمية، وكذلك أن تخضع للتحيز المعرفي. يمكن أن يعوق هذا التحيز الشبيه بالبشر اتخاذ قرارات عادلة وقابلة للتفسير مدعومة بمساعدة النماذج اللغوية الكبيرة. يقدم عملنا إطار عمل BiasBuster، المصمم لكشف وتقييم والتخفيف من التحيز المعرفي في النماذج اللغوية الكبيرة، خصوصًا في مهام اتخاذ القرار الحساس. مستوحى من أبحاث سابقة في علم النفس والعلوم المعرفية، طورنا مجموعة بيانات تحتوي على 16800 مطالبة لتقييم تحيزات معرفية مختلفة (مثل: التحيز الناجم عن المطالبة، المتسلسل، الكامن). نختبر استراتيجيات مختلفة للتقليل من التحيز، بالإضافة إلى اقتراح طريقة جديدة تستخدم النماذج اللغوية الكبيرة لتنقية مطالباتهم بأنفسهم. تحليلنا يوفر صورة شاملة عن وجود وتأثير التحيز المعرفي عبر نماذج تجارية ومفتوحة المصدر مختلفة. نثبت أن طريقة التنقية الذاتية لدينا تقلل بفعالية التحيز المعرفي دون الحاجة إلى صياغة أدلة يدوية لكل نوع من أنواع التحيز.