더 가볍고 더 나은: 차원 축소 자기 주의 신경망을 이용한 다음 항목 추천

자기 주의 신경망(SAN)은 순차 추천 시스템에 집중적으로 적용되어 왔으나, 다음과 같은 제한점이 있습니다: (1) 자기 주의의 이차 복잡성과 과도한 매개변수 문제에 취약함; (2) 암묵적인 위치 인코딩으로 인한 항목 간 순차적 관계 모델링의 부정확성. 본 연구에서는 이러한 문제를 극복하기 위해 저차원 분해 자기 주의 신경망(LightSAN)을 제안합니다. 특히, 사용자의 과거 항목을 소량의 일정한 잠재 관심사로 투사하고, 항목-관심사 상호작용을 활용하여 문맥 인식 표현을 생성하는 저차원 분해 자기 주의를 도입합니다. 이는 시간 및 공간 복잡도가 사용자의 과거 시퀀스 길이에 대해 선형적으로 확장되며, 과도한 매개변수 문제에 더 강건합니다. 또한, 항목 간 순차 관계를 보다 정확히 모델링하는 분리형 위치 인코딩을 설계하였습니다. 세 가지 실제 데이터셋에서 광범위한 실험을 수행한 결과, LightSAN이 기존 SAN 기반 추천 시스템보다 효과성과 효율성에서 우수함을 입증하였습니다.