그래프 트리플 어텐션 네트워크: 분리된 관점

그래프 변환기(Graph Transformers, GTs)는 최근 장거리 종속성과 그래프 귀납 편향을 효과적으로 포착하여 그래프 영역에서 큰 성공을 거두었습니다. 그러나 이러한 방법은 두 가지 주요 문제에 직면합니다: (1) 다중 뷰 혼란으로, 다중 뷰 정보(위치, 구조, 속성)를 결합함으로써 유연한 사용과 전파 과정의 해석 가능성을 방해합니다. (2) 지역-글로벌 혼란으로, 지역 메시지 전달과 글로벌 어텐션의 결합에서 발생하여 과적합 및 과도한 글로벌화 문제를 초래합니다. 이러한 문제를 해결하기 위해 GTs를 세 가지 구성요소와 두 가지 상호작용 수준으로 분해하는 고수준 분리 관점을 제안합니다: 위치 어텐션, 구조 어텐션, 속성 어텐션과 함께 지역 및 글로벌 상호작용이 포함됩니다. 이 분리된 관점에 기반하여 다중 뷰 어텐션을 별도로 계산하고 다중 뷰의 지역 및 글로벌 정보를 적응적으로 통합하는 분리된 그래프 트리플 어텐션 네트워크인 DeGTA를 설계했습니다. 이 접근법은 향상된 해석 가능성, 유연한 설계, 지역 및 글로벌 정보의 적응적 통합이라는 세 가지 주요 이점을 제공합니다. 광범위한 실험을 통해 DeGTA는 노드 분류 및 그래프 분류 등 다양한 데이터셋과 작업에서 최첨단 성능을 달성했습니다. 종합적인 소거 연구는 분리가 성능 향상과 해석 가능성 증대에 필수적임을 보여줍니다. 우리의 코드는 https://github.com/wangxiaotang0906/DeGTA 에서 확인할 수 있습니다.