"외계 AI 직관"을 넘어서: 능력, 해석 가능성, 그리고 다가오는 이해 위기

이 논문은 AI 시스템이 AlphaGo, AlphaGo Zero, AlphaZero 시대의 "외계" 전략이 예고한 것처럼 인간 전문가보다 훨씬 더 뛰어난 능력을 갖추게 됨에 따라 이해의 위기에 직면할 수 있다고 주장한다. 기관들은 AI 결과가 잘 검증되기 때문에 점점 더 수용하지만, 근본적인 이유를 검증하고 내재화하는 비용은 인간의 실제 한계를 넘어선다. 우리는 "이해"가 운영적으로 의미하는 바를 정의하고, 해석 가능성이 기본적으로 능력에 뒤처지는 이유를 설명하며, 검증 가능한 산출물, 감사 추적, 모듈성, 구조화된 과학적 머신러닝과 같은 실용적 설계 방향을 제안하여 AI 기반 과학 및 공학이 단순한 신탁에 대한 경외심 이상으로 투명성을 유지하도록 한다. 그림과 표는 능력과 해석 가능성 간의 격차 및 그로 인한 작업 흐름 위험을 요약한다.