생성 소프트웨어 공학

딥러닝 기법의 급속한 발전, 향상된 컴퓨팅 파워, 방대한 학습 데이터의 가용성은 사전 학습 모델과 대형 언어 모델(LLM)에서 큰 진전을 이끌어냈습니다. BERT 및 Transformer와 같은 아키텍처 기반의 사전 학습 모델과 ChatGPT와 같은 LLM은 뛰어난 언어 능력을 보여주었으며 소프트웨어 공학 분야에 응용되고 있습니다. 소프트웨어 공학 작업은 여러 범주로 나뉠 수 있으며, 그 중 생성 작업이 연구자들에게 가장 관심을 받고 있습니다. 사전 학습 모델과 LLM은 강력한 언어 표현 및 문맥 인식 능력을 지니고 있어 다양한 학습 데이터를 활용하고, 미세 조정, 전이 학습 및 프롬프트 엔지니어링을 통해 생성 작업에 적응할 수 있습니다. 이러한 장점들은 생성 작업에서 효과적인 도구로 작용하며 우수한 성과를 입증했습니다. 본 논문에서는 사전 학습 모델과 LLM을 활용한 소프트웨어 공학 내 생성 작업에 대한 포괄적인 문헌 리뷰를 제시합니다. 우리는 소프트웨어 공학 방법론에 따라 생성 작업을 정확히 분류하고, 관련된 최신 사전 학습 모델 및 LLM, 사용된 데이터셋과 평가 지표를 요약합니다. 또한 기존 접근법의 주요 강점, 약점, 공백을 식별하고 잠재적 연구 방향을 제안합니다. 이 리뷰는 연구자와 실무자에게 소프트웨어 공학 내 생성 작업에 사전 학습 모델과 LLM을 효과적으로 적용하기 위한 심층 분석과 지침을 제공하는 것을 목표로 합니다.