時間経過にわたる目標の証明可能な保持のためのAI工学

概要 人工知能（AI）が時間の経過に伴い人間の価値観との整合性を維持することは重要であるが、十分に研究されていないと私は考える。ほとんどの研究は静的な整合性に焦点を当てており、学習と自律性の過程での安定性を可能にする重要な保持動態を無視している。本論文は、証明可能な保持を制約する限界を明らかにし、主要なギャップとして動態の形式化、高度なシステムの透明性、参加型スケーリング、および制御不能な再帰的自己改善のリスクを議論する。技術的および倫理的視点を制御理論と哲学に基づく概念的枠組みに統合し、動態を分析する。能力調整、参加型設計、および持続的整合性の検証を可能にする高度なモデリングへ重点を移すべきだと主張する。総じて、AIを生涯にわたり安全に整合させる実現には、原則を形式的手法、実証、技術的かつ人文的厳密さを統合したシステムへと翻訳することが必要であると論じる。