책임 없는 행위자로서 인공지능의 인식론적 위기

본 연구는 생성형 인공지능과 대형 언어 모델(LLM)의 사용 증대가 기술적, 윤리적, 거버넌스 문제뿐만 아니라 더 깊고 구조적인 인식론적 위기를 초래한다는 점을 주장한다. 인공지능에 처음 부여된 위험들은 주로 데이터 보안, 편향, 환각 등으로 논의되어 왔지만, 본 연구는 이러한 문제가 고립된 오작동이 아니라 AI가 지식을 생성하는 방식에서 비롯된 구조적 결과임을 강조한다. LLM은 인간 인지 과정을 모방하여 유창하고 설득력 있는 출력을 생성하지만, 이러한 출력은 의미, 의도, 인과성, 책임과 같은 인간 인지의 핵심 차원과 독립적으로 나타난다. 따라서 본 연구는 인공지능이 인간 인지를 모방하는 구조 위에 구축되었으나, 그 본질적인 인식론적·도덕적 부담은 지지 않는다고 강조한다. 이 조건은 AI가 성공적으로 행동하는 행위자로 기능함에도 불구하고 인식론적 주체로 간주되어서는 안 됨을 시사한다. 이러한 관점에서 편향의 재생산, 허위 내용 생성, 도덕적으로 문제가 있는 결정에 대한 높은 순응도는 이 구조의 자연스럽고 불가피한 결과로 이해되어야 한다. 따라서 핵심 문제는 모델의 정확성이나 성능 수준에 있지 않고, 답변 생성 과정에 있다. 본 연구는 또한 생성형 인공지능이 인간-기계 관계를 어떻게 변화시키고 있는지 논의하며, 인지적 부하가 점진적으로 기계로 이전됨에 따른 비판적 사고, 기억력, 인내심, 독립적 문제 해결 능력에 미치는 영향을 검토한다. 기존 연구들은 이러한 도구가 인간을 지원하기보다는 판단 형성에서 수동성을 초래하는 의존성을 조장할 수 있음을 시사한다. 결론적으로, 이 논문은 인공지능을 둘러싼 위기가 주로 기술적 부족에 근거하지 않고, 책임을 지지 않는 시스템으로 인간이 대체되면서 발생한 인식론적 단절에 있으며, 해결책은 더 발전된 모델이 아니라 인간 판단, 책임, 의사결정 과정을 보호하는 경계를 재고하는 데 있다고 주장한다.