자연어 추론의 설명 가능성과 충실성 확보

대형 언어 모델(LLM)을 포함한 신경망 모델들은 질문 응답과 같은 논리적 추론 과제에서 우수한 성능을 보입니다. LLM에서 추론 능력을 이끌어내기 위해 최근 연구들은 체인 오브 생각(CoT) 메커니즘을 사용하여 추론 과정과 답변을 동시에 생성하도록 제안했으며, 이는 모델의 추론 수행 능력을 향상시킵니다. 그러나 LLM의 해석 불가능한 특성과 자유 형식 설명의 극단적 유연성 때문에 부정확한 추론, 환각 현상, 인간 선호와 맞지 않는 문제 등 여러 도전과제가 남아 있습니다. 본 발표에서는 (1) 맥락에 기반한 구조화된 정보를 활용하여 설명 가능한 복합 질문 응답 및 추론을 설계한 점; (2) 단계별로 충실한 추론을 수행하고 반복 피드백을 제공하는 유도 추론을 위한 다중 모듈 해석 가능 프레임워크에 중점을 둘 것입니다.