NoRA: 효율적인 대형 모델 미세조정을 위한 중첩 저랭크 적응법

본 논문에서는 저랭크 적응(LoRA) 기법의 기능을 확장한 파라미터 효율적 미세조정을 위한 새로운 접근법인 중첩 저랭크 적응(NoRA)을 소개합니다. 기본 LoRA는 사전 학습된 가중치 상속을 간과하며 여전히 많은 수의 파라미터 미세조정을 요구합니다. 이러한 문제를 해결하기 위해 NoRA는 특이값 분해(SVD)를 활용한 이중층 중첩 구조를 채택하여 원본 행렬의 지식을 효과적으로 활용하면서도 조정 가능한 파라미터 수를 줄입니다. 구체적으로 NoRA는 외부 LoRA 가중치를 고정하고 내부 LoRA 설계를 사용하여 모델 최적화에 대한 향상된 제어를 제공합니다. 이 접근법은 모델이 특정 작업에 보다 정확하게 적응하면서도 컴팩트한 파라미터 공간을 유지할 수 있게 합니다. 외부 LoRA 가중치를 고정하고 내부 LoRA 설계를 이용함으로써 NoRA는 컴팩트한 파라미터 공간에서 정밀한 작업 적응을 가능하게 합니다. 대형 언어 모델을 활용한 상식 추론, 비전-언어 모델 미세조정, 주제 중심 생성 등의 작업에 대한 평가 결과, NoRA는 LoRA 및 그 변형들보다 우수함을 입증했습니다. 코드는 논문 채택 시 공개할 예정입니다.