HippoRAG: Memória de Longo Prazo Inspirada Neurobiologicamente para Grandes Modelos de Linguagem

Para prosperar em ambientes naturais hostis e em constante mudança, cérebros de mamíferos evoluíram para armazenar grandes quantidades de conhecimento sobre o mundo e integrar continuamente novas informações, evitando o esquecimento catastrófico. Apesar das conquistas impressionantes, grandes modelos de linguagem (LLMs), mesmo com geração aumentada por recuperação (RAG), ainda enfrentam dificuldades para integrar de forma eficiente e eficaz uma grande quantidade de novas experiências após o pré-treinamento. Neste trabalho, introduzimos o HippoRAG, uma nova estrutura de recuperação inspirada na teoria do indexador hipocampal da memória de longo prazo humana, para permitir uma integração de conhecimento mais profunda e eficiente sobre novas experiências. O HippoRAG orquestra sinergicamente LLMs, grafos de conhecimento e o algoritmo Personalized PageRank para imitar os diferentes papéis do neocórtex e do hipocampo na memória humana. Comparamos o HippoRAG com métodos RAG existentes em perguntas de múltiplos saltos e mostramos que nosso método supera notavelmente os métodos de ponta, em até 20%. A recuperação em etapa única com HippoRAG alcança desempenho comparável ou melhor que a recuperação iterativa como IRCoT, sendo 10 a 30 vezes mais barata e 6 a 13 vezes mais rápida, e a integração do HippoRAG no IRCoT traz ganhos substanciais adicionais. Finalmente, mostramos que nosso método pode lidar com novos tipos de cenários que estão fora do alcance dos métodos existentes. Código e dados estão disponíveis em https://github.com/OSU-NLP-Group/HippoRAG.