Aprimorando Grandes Modelos de Linguagem com Grafos de Conhecimento Pseudo e Multifonte para Resposta a Perguntas Abertas

Mitigar as alucinações dos Grandes Modelos de Linguagem (LLMs) e aprimorá-los é uma tarefa crucial. Embora alguns métodos existentes empreguem técnicas de autoaperfeiçoamento do modelo, eles não conseguem abordar efetivamente alucinações factuais desconhecidas. O uso de abordagens de aprimoramento por Grafos de Conhecimento (KG) não resolve a generalização entre diferentes fontes de KG nem o aprimoramento simultâneo de perguntas com respostas abertas. Para superar essas limitações, é proposto um framework que combina Geração de Pseudo-Grafos e Verificação Atômica de Conhecimento. O aprimoramento do LLM usando KG em um cenário de resposta a perguntas abertas é implementado aproveitando a Geração de Pseudo-Grafos. A Verificação Atômica de Conhecimento utiliza consulta e verificação de conhecimento em nível atômico para alcançar generalização sob diferentes fontes de KG. Comparado ao baseline, essa abordagem proporciona uma melhoria mínima de 11,5 no escore ROUGE-L para perguntas abertas. Para perguntas precisas, observa-se uma melhoria mínima de 7,5 na acurácia. Ademais, também é demonstrado que este framework exibe generalização entre diferentes fontes de KG. Em suma, nossos resultados abrem caminho para aprimorar LLMs incorporando KG Pseudo e Multifonte, particularmente no contexto de perguntas abertas.