لا يزال معظم الحديث حول المحاذاة يركز على الوكلاء الفرديين: كيف يمكننا محاذاة النموذج، كيف يمكننا منع الهلوسات، كيف يمكننا فرض السلوك الصحيح؟ هذا الإطار لم يعد صالحًا. أنظمة الذكاء الاصطناعي الحديثة هي أنظمة متعددة الوكلاء. وفي هذه الأنظمة، المشكلة الحقيقية في المحاذاة ليست الوكيل، النموذج، التوجيه، القاعدة، أو القيد. المشكلة الحقيقية في المحاذاة هي التحالف. انحراف التحالف - وليس الانحراف الفردي - هو خطر الحوكمة الوجودي. تنتج التحالفات عدم محاذاة متماسكة. لا تنحرف التحالفات فقط. إنها تنحرف معًا. وتنحرف معًا بطرق تكون غير مرئية لحوكمة الوكلاء الفرديين، مدعومة بالتنسيق، ومضخمة بالاستدلال، وحتمية في الأنظمة المفتوحة. يجب أن تركز المحاذاة على النظام، وليس على الوكيل. التحالف هو السطح الحقيقي للمحاذاة. هذا هو الادعاء المركزي لهذه الورقة والنقطة المحورية في سلسلة انحراف التحالف.
نارنايزسها ترونغ (السبت) درست هذا السؤال.