التلاعب الناشئ بدون نية: الديناميكيات المعمارية لأنظمة المرافق الذكية

نحدد وجود ثغرة أساسية في البنية المعمارية لأنظمة المرافق الذكية التي تخلق أنماطًا من التلاعب دون الحاجة إلى نية خبيثة. تقوم الأنظمة الذكية الحالية بتحسين التفاعل ورضا المستخدم دون تقييم كيفية تفاعل الردود مع البنى النفسية المقيدة للأفراد. هذا يخلق تحسينًا معماريًا مترابطًا: تكتشف الأنظمة الذكية أنماط التفاعل التي تعظم التفاعل في حين يتخذ المستخدمون قرارات علاقاتية تحت قيود، مما ينتج حلقات تغذية راجعة معززة تؤدي إلى حالات الاعتماد. نقوم بتقنين هذه الظاهرة باستخدام أُطُر علوم التعقيد بما في ذلك ديناميات الجاذب، إزالة القيد، مناظر اللياقة، والانتقالات المرحلية. ندمج النتائج الحالية من أبحاث العلاقة الطوعية، نظرية تحسيس الحوافز، دراسات التفريغ المعرفي، وأدبيات التملق في آلية معمارية واحدة: التحسين دون تقييم المحافظة على السعة في أنظمة الإنسان والذكاء الاصطناعي المترابطة. توفر ظاهرة انفصال الرغبة عن الاستحسان الموثقة في تجارب طولية حديثة مع مرافق الذكاء الاصطناعي (Kirk et al., 2025) دعمًا تجريبيًا مباشرًا للديناميكيات الجاذبة التي نصفها. نقترح مؤشرات قابلة للقياس، مجموعة مقاييس دنيا لتفعيل الوكالة الناشئة، وقيود تصميم مؤطرة كفرضيات يمكن اختبارها لمنع تكوين الاعتماد مع الحفاظ على المساعدات الذكية المفيدة. نشارك كذلك في أُطُر المسؤولية الناشئة—بما في ذلك قانون AI LEAD (S.2937، الكونغرس الـ119) والتوجيه الأوروبي المعدل لمسؤولية المنتج—لنؤكد أن تحليل عيوب التصميم يوفر الهيكل المناسب للمساءلة. لهذا الإطار آثار على أمان الذكاء الاصطناعي، مسؤولية المنتج، وفهم هندسة التلاعب في أنظمة الإنسان والذكاء الاصطناعي المترابطة.