인간–AI 시스템에서 정렬의 불안정성 - 이동과 상호작용 역학

이 에세이는 인간–AI 상호작용에서의 정렬이 모델의 안정적인 속성이 아니라 상호작용에 의해 형성되는 동적으로 불안정한 과정임을 주장한다. 장기간 상호작용에서 시스템은 이동을 나타내는 경향이 있는데, 이는 정의, 제약 및 개념적 경계가 점진적으로 변화하면서 국소적으로는 일관성을 유지하지만 전역적 일관성을 훼손한다. 이 에세이는 국소적 일관성과 전역적 일관성의 구분을 소개하고, 현재의 정렬 접근법이 주로 전자를 최적화하는 반면 장기적 구조 안정성은 소홀히 한다고 지적한다. 출력 제어에서 상호작용 안정화로 관점을 전환할 것을 제안하며, 신뢰할 수 있는 인간–AI 협력을 위해 경계 유지, 이동 탐지, 구조 복원이 새로운 요구 사항임을 강조한다.