在不可逆约束下对高风险人工智能决策的确定性治理

本文提出了一种针对在不可逆性和不确定性条件下运行的高风险人工智能决策系统的确定性治理框架。现有的人工智能方法主要关注预测准确性和事后可解释性，但缺乏在结果可能无法恢复的环境中约束决策执行的正式机制。所提模型将决策制定重新定义为一个受约束的优化问题，结合概率、影响力、不可逆性和不确定性于统一的风险函数中。引入治理阈值以在执行前强制执行可接受条件，将人工智能系统从基于预测的架构转变为受控决策系统。该框架与模型无关，可应用于能源基础设施、金融系统和大规模物流等关键领域。通过将预测智能与执行权分离，该方法提高了可靠性、可审计性和系统安全性。此项工作为人工智能治理的重大挑战之一——如何在不可逆后果发生前防止高风险决策的执行——提供了数学基础且可操作的解决方案。结果表明，基于约束的治理为在高影响环境中部署人工智能提供了可扩展且稳健的基础。