当代机器人安全架构是在系统已经形成行动决策之后介入,试图限制输出而非管理认知本身。本文表明,后推理安全不仅对在开放环境中运行的具身学习系统而言不足——它在结构上无法保证安全。我们引入了预推理宪法门控(PRCG),这是一种颠覆现有范式的治理架构。PRCG不是在推理后过滤行动,而是治理推理是否在宪法上被允许开始。四个前提条件域——认知充分性、人类授权、尊严维护和升级可用性——必须满足,认知过程才能获得计算资源。与完美推理元件(IRA)v2.0集成,PRCG建立了双门控系统:无宪法批准不推理,无宪法治理推理不行动。本文提供了形式定义、后推理安全不足的结构性证明、架构规范及具身智能系统的实现映射。核心结论是架构性的且精确的:对于嵌入人类环境的自适应机器人,治理不能跟随能力,而必须先于能力。
Building similarity graph...
Analyzing shared references across papers
Loading...
Rodney Manyakaidze
Immaculata University
Building similarity graph...
Analyzing shared references across papers
Loading...
Rodney Manyakaidze(Sun,)研究了该问题。
www.synapsesocial.com/papers/699d4008de8e28729cf64fea — DOI: https://doi.org/10.5281/zenodo.18728582