最近的论述越来越多地将先进的人工智能系统描述为“代理性”的。具备规划能力的语言模型、自主工作流程和多代理架构被认为具有代理性,因为它们追求目标、发起行动并协调行为。本文认为,这些描述基于结构性的混淆。通过连续性基础的代理理论,本文展示了大多数被称为“代理性”的系统缺乏产生代理性的条件。文章论述,代理性不是一种行为成就,而是对连续性压力的结构性响应:即在不兼容的未来路径中保持统一评估权威的位置的需求。优化、规划和协调预设了这种统一;它们本身并不产生统一。可重置、可替代或受外部指定评估标准支配的系统,虽然可有效优化,但缺乏评估权威的创作权。将此标准应用于当代人工智能架构与治理实践,本文得出结论:主要危险不在于机器成为代理者,而在于在连续性、创作权和责任结构上缺失时错误地赋予代理性。
Building similarity graph...
Analyzing shared references across papers
Loading...
Peter Kahl
Building similarity graph...
Analyzing shared references across papers
Loading...
Peter Kahl (Sun,) 研究了这个问题。
www.synapsesocial.com/papers/69810006c1c9540dea8130c8 — DOI: https://doi.org/10.5281/zenodo.18447463
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: