Memoria de Restricciones y Fallo a Largo Plazo en Inteligencia Artificial: Por Qué la Alineación Decae Incluso Cuando el Comportamiento Local Tiene Éxito

Este artículo presenta una explicación estructural de la falla a largo plazo en sistemas de inteligencia artificial. Aunque los sistemas de IA suelen exhibir un comportamiento estable y aceptable en interacciones cortas, con frecuencia se deterioran a lo largo de horizontes temporales extendidos. Estas fallas suelen atribuirse a cambios en la distribución, especificación incorrecta del objetivo o limitaciones de memoria. Este trabajo argumenta que tales explicaciones son insuficientes. Basándose en un marco centrado en las restricciones, el artículo introduce el concepto de memoria de restricciones: la persistencia de exclusión a través del tiempo. Muestra que los sistemas pueden cumplir localmente las restricciones sin preservarlas, lo que conduce a decadencia, deriva y recurrencia de comportamientos previamente suprimidos. Por lo tanto, el fallo a largo plazo no es una falla de aprendizaje o recuerdo, sino una falla en la persistencia de restricciones. Se introduce un marco formal usando conjuntos admisibles dependientes del tiempo, demostrando cómo los comportamientos admisibles se expanden cuando las restricciones no se preservan. El análisis distingue la persistencia de restricciones de la robustez y demuestra que reducir la probabilidad de error no equivale a imponer imposibilidad. Este trabajo generaliza a sistemas artificiales y biológicos y forma parte de la serie YU-AI.