최소 각 회귀

All Subsets, Forward Selection 및 Backward Elimination과 같은 모델 선택 알고리즘의 목적은 모델이 적용될 동일한 데이터 집합을 기반으로 선형 모델을 선택하는 것입니다. 일반적으로 응답 변수를 효율적으로 예측하기 위해 단순한 집합을 선택하고자 하는 많은 가능한 공변량이 있습니다. 새로운 모델 선택 알고리즘인 최소 각 회귀(LARS)는 전통적인 전진 선택 방법보다 유용하고 덜 탐욕적인 버전입니다. 세 가지 주요 특성이 도출됩니다: (1) LARS 알고리즘의 간단한 수정으로 절대 회귀 계수의 합을 제한하는 매력적인 버전인 Lasso가 구현되는데, 이 LARS 수정은 이전 방법보다 대폭 적은 컴퓨터 시간을 사용하여 주어진 문제에 대한 모든 가능한 Lasso 추정치를 계산합니다. (2) 다른 LARS 수정은 또 다른 유망한 새로운 모델 선택 방법인 Forward Stagewise 선형 회귀를 효율적으로 구현합니다; 이 연결은 이전에 관찰된 Lasso와 Stagewise의 유사한 수치 결과를 설명하고, 두 방법의 특성을 이해하는 데 도움을 주는데, 이는 더 단순한 LARS 알고리즘의 제약된 버전으로 볼 수 있습니다. (3) LARS 추정치의 자유도에 대한 간단한 근사가 가능하며, 이를 통해 예측 오류의 Cp 추정치를 도출합니다; 이는 가능한 LARS 추정치 범위 내에서 원칙적인 선택을 가능하게 합니다. LARS와 그 변형은 계산적으로 효율적이며, 본 논문에서는 모든 공변량 전체 집합에 적용된 일반 최솟제곱법과 유사한 수준의 계산 노력을 요구하는 공개 알고리즘을 설명합니다.