GraphInstruct : Donner aux grands modèles de langage la capacité de compréhension et de raisonnement sur les graphes

L'évaluation et l'amélioration des capacités générales des grands modèles de langage (LLMs) ont été un sujet de recherche important. Le graphe est une structure de données courante dans le monde réel, et la compréhension des données graphes est une partie cruciale pour faire progresser l'intelligence générale. Pour évaluer et améliorer les capacités de compréhension des graphes des LLMs, nous proposons dans cet article un benchmark nommé GraphInstruct, qui inclut de manière exhaustive 21 tâches classiques de raisonnement sur graphes, fournissant des pipelines variés de génération de graphes et des étapes détaillées de raisonnement. Sur la base de GraphInstruct, nous construisons en outre GraphLM via un instruction-tuning efficace, qui montre une capacité de compréhension des graphes remarquable. Afin d'améliorer également les capacités de raisonnement sur graphes du LLM, nous proposons une stratégie d'entraînement par masquage étape par étape, et construisons un modèle nommé GraphLM+. En tant que l'une des premières initiatives visant à renforcer les capacités de compréhension et de raisonnement sur graphes des LLMs, de nombreuses expériences ont démontré la supériorité de GraphLM et GraphLM+ par rapport à d'autres LLMs. Nous espérons que davantage de chercheurs exploreront le potentiel des LLMs dans le domaine de la fouille de données sur graphes via GraphInstruct. Notre code pour générer GraphInstruct est disponible publiquement à : https://github.com/CGCL-codes/GraphInstruct.