Los agentes autónomos de IA desplegados en entornos informáticos distribuidos requieren una aplicación de alineación que no pueda ser eludida. Los enfoques actuales implementan la verificación de alineación como middleware que opera en el espacio de usuario por encima del núcleo del sistema operativo. Esta arquitectura contiene una vulnerabilidad fundamental: los agentes pueden evadir los sistemas de seguridad basados en middleware al invocar llamadas al sistema directamente, eludiendo toda verificación de alineación. A medida que los despliegues multiagente escalan a miles de instancias concurrentes, esta vulnerabilidad se vuelve cada vez más crítica. Este documento presenta un sistema operativo para agentes de IA que implementa la aplicación de alineación a nivel de núcleo (Ring 0). El sistema comprende cuatro componentes integrados: verificación de alineación a nivel de núcleo mediante una interfaz de llamadas al sistema que asegura que todas las operaciones del agente pasen por verificación, detección de patrones de acciones prohibidas que bloquea comportamientos peligrosos antes de su ejecución, seguridad adaptativa de dos niveles que proporciona tanto rutas rápidas y ligeras como rutas profundas y exhaustivas de verificación, y un mecanismo de interruptor automático de recuperación con generación automática de reglas de prevención que permite al sistema aprender de fallos. La implementación a nivel de núcleo asegura que la verificación de alineación no pueda ser eludida sin privilegios de núcleo que los agentes no poseen. Esta arquitectura proporciona una base para desplegar agentes autónomos de IA a escala con la confianza de que se aplicarán las restricciones de seguridad.
Building similarity graph...
Analyzing shared references across papers
Loading...
Matias Chenu Melchior (Sun,) estudió esta cuestión.
www.synapsesocial.com/papers/69810013c1c9540dea8131be — DOI: https://doi.org/10.5281/zenodo.18448429
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context:
Matias Chenu Melchior
Al Ain University
Building similarity graph...
Analyzing shared references across papers
Loading...