대규모 언어 모델에서 사실 불일치 및 환각 현상 완화

대규모 언어 모델(LLM)은 의료, 교육, 금융 서비스 등 다양한 분야에서 활용할 수 있도록 다양한 언어 관련 작업에서 뛰어난 성능을 보여주었습니다. 그러나 이들은 사실과 다른 응답이나 '환각'을 생성하는 경향이 있어 신뢰도 손실, 고객 신뢰 저하 등의 부정적 영향을 미칠 수 있습니다. 본 발표에서는 환각 현상을 최소화하는 문제를 해결하는 솔루션을 소개합니다. 본 솔루션은 정확한 응답을 제공하고 상세한 설명을 생성하여 사용자가 모델이 최종 응답에 어떻게 도달했는지 알 수 있도록 합니다. 또한 설명이 사실적으로 정확한지 검증하며, 생성된 설명이 제공된 맥락에서 직접 도출되었는지 또는 추론된 것인지에 대한 인사이트를 제공합니다. 또한 LLM 기반 평가 기법을 사용하여 생성된 응답의 품질을 체계적으로 평가합니다. 벤치마크 데이터셋에서의 실험적 결과를 통해 본 접근법의 효과성을 입증합니다. 본 발표는 솔루션 내 개별 구성 요소가 최종 응답의 사실 정확도를 향상시키는 영향도 검토합니다. 본 연구는 LLM을 활용하는 산업 분야에 중요한 의미가 있으며, 응답의 신뢰성을 향상시키고 사실 환각과 관련된 위험을 완화하는 수단을 제공합니다. LLM 응답의 신뢰도를 높이고자 하는 연구자 및 실무자에게 유용한 통찰을 제공합니다.