클러스터된 부분 설명: 임상 의사결정 지원에서 맥락적 모델 해석을 위한 다층 프레임워크

임상 의사결정에 인공지능이 점점 더 통합됨에 따라 투명하고 신뢰할 수 있는 예측 모델의 필요성이 강조되고 있습니다. 설명 가능한 인공지능은 이 문제를 해결하기 위해 등장했지만, 대부분의 기존 접근법은 전반적(global) 또는 국소적(local) 분석에만 의존하여 환자 집단 간 모델 행동의 이질성을 포착하지 못합니다. 본 논문에서는 이러한 격차를 해소하기 위해 전반적, 부분적, 국소적 분석을 아우르는 새로운 3단계 방법론인 클러스터된 부분 설명(CPE) 프레임워크를 소개합니다. 제안된 프레임워크는 클러스터 기반 소집단화와 설명 가능한 인공지능 기법을 결합하여 특성 영향력과 모델 행동의 잠재적 변이를 밝혀냅니다. SEER 데이터셋으로 학습된 랜덤 포레스트 모델을 이용해 유방암 생존 예측 과제에 이 프레임워크를 적용하였습니다. 결과적인 부분 설명은 클러스터별로 이질적인 특성 중요도 패턴을 드러내며, 전반적 분석에서는 가려지는 상호작용을 강조합니다. 소집단 수준에서 전반적 설명을 검증함으로써 제안된 프레임워크는 해석가능성과 신뢰성을 모두 향상시켜 맥락을 고려한 임상 의사결정을 지원합니다. 마지막으로, 이 추가 해석층이 향후 연구에 미치는 함의를 논의합니다.