트랜스포머: 통계적 해석, 아키텍처 및 응용

트랜스포머는 자연어 처리(NLP), 컴퓨터 비전(CV), 음성 인식(SR)과 같이 최첨단 멀티 헤드 어텐션 공간 덕분에 여러 작업을 분석하는 강력한 도구로 널리 인식되고 있습니다. 풍부한 설계와 입력 데이터 분석에 강력한 기능에서 영감을 받아, 다양한 아키텍처에서 시작하여 통계적 메커니즘 및 추론에 대한 조사를 진행하고, 이후 주요 작업에서의 응용을 소개하고자 합니다. 근본적인 통계 메커니즘은 우리의 관심을 불러일으키며 더 높은 수준에서 이를 조사하도록 흥미를 자극합니다. 본 설문조사는 수학적 기초에 초점을 맞추고, 그 원리를 활용하여 많은 인식 시나리오에서 우수한 성능을 보이는 이유를 분석하려 합니다.