결정 소유: AI 의사결정 지원과 귀속 격차

인공지능(AI)은 오랫동안 책임 문제로 인식되어 왔습니다. 이러한 논의의 대부분은 자율 무기나 자율 주행 자동차와 같은 로봇을 중심으로 이루어졌으며, 기계의 행동을 통제하기 어렵고 따라서 책임을 물을 수 있는 주체를 찾기 어렵다는 점이 강조되었습니다. 그러나 오늘날 대부분의 AI는 스스로 행동하지 않고 데이터를 자동으로 분석하여 인간이 더 나은 결정을 내리도록 돕는 의사결정 지원 도구 기반의 기계 학습 기술에 기반하고 있습니다. 본 논문은 의사결정 지원 도구가 행위자와 유사한 시스템의 행동에 대해 누군가를 비난하거나 처벌할 대상을 찾는 익숙한 문제를 넘어서 책임에 관한 새로운 문제를 제기한다는 점을 주장합니다. 즉, 이들은 "결정 소유"라 부를 수 있는 문제를 제기하는데, 이는 결정에 반영되는 가치 판단을 귀속시킬 수 있는 인간 행위자를 식별하기 어렵게 만든다는 것입니다. 책임과 그 다양한 측면에 관한 최근 철학 문헌을 바탕으로 볼 때, 이는 주로 책임 추궁(accountability) 문제라기보다 귀속 가능성(attributability)의 문제임을 주장합니다. 이러한 특정 책임 문제는 AI가 직접적인 행위 권고를 제공할 때 가장 명백히 나타나지만, 덜 명백하게는 결정이 이루어지는 근거 정보로서 단순한 기술적 정보를 제공할 때도 다양한 형태와 정도로 나타납니다.