Transformateurs de graphes : un état de l'art

Les transformateurs de graphes sont une avancée récente en apprentissage automatique, offrant une nouvelle classe de modèles de réseaux neuronaux pour les données structurées en graphes. La synergie entre les transformateurs et l'apprentissage par graphes démontre une forte performance et une grande polyvalence à travers diverses tâches liées aux graphes. Cette revue fournit un examen approfondi des progrès récents et des défis dans la recherche sur les transformateurs de graphes. Nous commençons par les concepts fondamentaux des graphes et des transformateurs. Nous explorons ensuite les perspectives de conception des transformateurs de graphes, en mettant l'accent sur la manière dont ils intègrent les biais inductifs de graphes et les mécanismes d'attention graphique dans l'architecture du transformateur. De plus, nous proposons une taxonomie classant les transformateurs de graphes selon la profondeur, la scalabilité et les stratégies de pré-entraînement, résumant les principes clés pour un développement efficace des modèles de transformateurs de graphes. Au-delà de l'analyse technique, nous discutons des applications des modèles de transformateurs de graphes pour des tâches au niveau des nœuds, des arêtes et des graphes, explorant également leur potentiel dans d'autres scénarios d'application. Enfin, nous identifions les défis restants dans le domaine, tels que la scalabilité et l'efficacité, la généralisation et la robustesse, l'interprétabilité et l'explicabilité, les graphes dynamiques et complexes, ainsi que la qualité et la diversité des données, traçant les directions futures pour la recherche sur les transformateurs de graphes.