동적 속성 그래프를 활용한 대형 언어 모델의 제어된 텍스트 생성

제어된 텍스트 생성(CTG)은 특정한 원하는 속성을 가진 텍스트를 생성하는 것을 목표로 합니다. 본 연구에서는 Dynamic Attribute Graphs 기반 제어 텍스트 생성(DATG)이라는 대형 언어 모델(LLM)용 플러그형 CTG 프레임워크를 소개합니다. 이 프레임워크는 속성 평가기를 이용해 LLM이 생성한 문장의 속성을 평가하고 동적 속성 그래프를 구축합니다. DATG는 주요 속성 단어와 주요 반속성 단어의 출현을 조절하여 모델의 원래 능력을 훼손하지 않으면서 효과적인 속성 제어를 달성합니다. 다섯 개의 LLM을 기반 모델로 사용하여 독성 완화와 감정 변환 두 가지 과제의 네 개 데이터셋에서 실험을 수행했습니다. 연구 결과는 네 개 데이터셋 내 가장 유리한 과제에서 기존 방법 대비 최대 19.29%의 제어 정확도 향상을 보였으며, 또한 당혹도(perplexity)가 크게 감소하여 텍스트의 유창성을 현저히 개선함을 확인했습니다.