العدالة الخوارزمية في حماية الطفل: العدالة الإحصائية، العدالة الاجتماعية وتداعياتها على الممارسة

تُستخدم الأدوات الخوارزمية بشكل متزايد في اتخاذ قرارات حماية الطفل. عادةً ما تركز اعتبارات العدالة في الأدوات الخوارزمية على العدالة الإحصائية، لكن هناك تداعيات أوسع للعدالة تتعلق بالبيانات المستخدمة لبناء قواعد البيانات المصدر، وكيفية دمج الخوارزميات في سياقات اتخاذ القرار الاجتماعية التقنية المعقدة. تستكشف هذه المقالة كيف تُنتج البيانات التي تُستخدم في إبلاغ خوارزميات حماية الطفل وترتبط هذه الإنتاجات بمفاهيم العدالة الإحصائية التقليدية ومفاهيم العدالة الأوسع. تواجه الأدوات التنبؤية العديد من المشاكل التحديّة في سياق حماية الطفل، حيث لا تمثل البيانات التي تعتمد عليها الأدوات التنبؤية انتشار سوء معاملة الأطفال في المجتمع، كما أن سوء المعاملة بحد ذاته صعب التعريف، مما يجعل القرارات الأساسية التي تصبح متغيرة وذاتية. تحتوي الخوارزميات التي تستخدم هذه البيانات على حلقات تغذية مرتدة مشوهة وقد تحتوي على عدم مساواة وتحاملات. يتمثل التحدي لمفاهيم العدالة في أن حقوق الأفراد والمجموعات في عدم التمييز تصبح مهددة مع تحيز الخوارزمية نفسها، مما يؤدي إلى توقعات خاطئة للمخاطر تستند إلى علاقات زائفة. يتعرض الحق في المعاملة الفردية للخطر عندما تستند المخاطر الإحصائية على تصنيف جماعي، كما أن حقوق الأسر في الفهم والمشاركة في القرارات المتخذة بشأنهم صعبة عندما لم يسبق لهم الموافقة على ربط البيانات، وتصبح وظيفة الخوارزمية غير واضحة بسبب تعقيدها. قد يخلق استخدام الأدوات الخوارزمية غير القابلة للتفسير 'مناطق تحطيم أخلاقية'، حيث يُحاسب الممارسون على القرارات حتى لو كانت محددة جزئياً بواسطة خوارزمية. يمكن توجيه العديد من هذه الانتقادات أيضًا إلى صانعي القرار البشر في نظام حماية الطفل، لكن تجسيد هذه العمليات داخل الخوارزميات يجعل التعبير عنها أكثر صعوبة، وقد يقلل من غيرها من الأهداف العلائقية والأخلاقية المهمة في ممارسة العمل الاجتماعي.