自主系统中不可绕过执行控制的设计与实现

本文扩展了“自主系统中不可绕过执行控制”所介绍的架构原则，重点关注不可绕过执行控制的设计与实现考虑。它是更广泛的安全和有界自主系统治理架构中的执行控制层的一部分。相关工作包括“自主系统中不可绕过执行控制”、“安全和有界自主机器人治理架构”以及“分布式机器人系统中的安全有界自治”。本文针对自主系统中的一个基本挑战：如何在适应性、基于学习且日益不可预测的组件存在下确保安全执行。传统的安全方法严重依赖设计时验证，并假设系统行为可以被完全预见。随着自主性的提高，这一假设逐渐变得不可靠。本文考察了不可绕过执行控制作为一种运行时安全强制机制的设计考虑。该方法不仅仅依赖于规划和控制逻辑的正确性，更强调执行调解，作为在行动点限制系统行为的手段。本文概述了关键架构考虑，包括功能关注点分离、执行调解、运行时约束验证和强制边界设计。将执行控制构架为决策与执行之间的边界，使系统即使在不确定或演变的条件下也能保持操作安全。本文在概念和架构层面展开，不规定单一实现模式，而是识别可应用于不同系统架构和应用领域的实现相关设计原则。本贡献旨在支持机器人、人工智能安全和赛博物理系统领域的持续研发，特别是需要稳健现实操作的场景。提出的设计原则为在安全关键自主系统中实现可强制的运行时控制层提供基础。研究项目模块本工作是机器人治理架构（RGA）研究系列的一部分。该项目介绍了用于安全和有界自主系统的分层架构框架，结构如下：(1) 能力治理(2) 不可绕过执行控制(3) 运行时安全强制核心参考论文：《安全和有界自主机器人治理架构》《自主系统中不可绕过执行控制》《分布式机器人系统中的安全有界自治》。