범용 최적 소스 코딩을 위한 복제기 신경망

복제기 신경망은 입력을 원하는 출력으로 사용하여 스스로 조직화하며, 내부적으로 입력 데이터의 압축 표현을 형성합니다. 한 정리는 복제기 신경망의 한 종류가 평균 제곱 재구성 오차를 최소화함으로써(예를 들어, 원시 데이터 예제에 대해 학습함으로써) 임의의 데이터 벡터 소스에 대해 최적의 데이터 압축을 수행할 수 있음을 보여줍니다. 데이터 다양체는 데이터 소스의 새로운 일반 모델로 도입되었으며, 두 번째 정리는 실제로 중요한 극한 경우에 최적 압축 복제기 신경망이 다양체에 대해 본질적으로 고유한 자연 좌표계를 생성함으로써 작동함을 보여줍니다.