승인 임계값: AI 시스템 거버넌스 표준 정의

본 논문은 AI 시스템 거버넌스를 위한 승인 임계값을 정의한다. 거버넌스는 일반적인 시스템 속성이 아니라 특정 제약 하에서 내려진 특정 결정의 속성임을 주장한다. AI 시스템이 점점 더 자율적으로 행동을 개시하고, 제도적 및 규제적 영역을 넘나들며, 돌이킬 수 없는 결과를 생산함에 따라 거버넌스는 시스템 동작이 아니라 행동의 유효성 수준에서 평가되어야 한다. 논문은 AI 거버넌스의 절차적 접근법—모니터링, 정렬, 필터링, 기록 및 관찰 가능성—을 거버넌스된 행동으로서 규정 조건과 구분한다. 행동이 거버넌스되었다고 하려면, 실행 전에 명시적이고 평가 가능한 제약 하에서 해당 행동의 승인이 확립되고 독립적 검증에 활용 가능해야 함을 제안한다. 이 표준을 형식화하기 위해 논문은 정형 행동 프레임을 도입하고, 해석 시스템과 승인 시스템의 구분을 정의하며, 증거와 증명의 명확한 경계를 그린다. 대부분의 거버넌스 아키텍처가 정책과 평가 사이에 존재하는 중요한 변환 계층인 제약 표현 계층—사람이 읽을 수 있는 규칙을 정형적이고 기계 평가 가능한 제약으로 공식화하는 계층—을 누락하는 점을 주장한다. 더 나아가 거버넌스 유효성의 일곱 가지 조건과 제약 완전성, 의미적 정밀함, 정책 구속력, 시간적 구속력, 독립적 재실행 가능성을 포함한 다섯 가지 거버넌스 완전성 차원을 정의한다. 마지막으로 유효한 승인 산출물 구조를 명세하고 결정이 진정 거버넌스되었는지 판별하기 위한 검증 가능한 표준을 제안한다. 이 연구는 형식적이고 강제 가능하며 입증 가능한 AI 거버넌스가 무엇인지 평가하는 연구자, 규제자, 기업 구매자, 컴플라이언스 리더, 기술 아키텍트 등에게 의도되었다.