MemoryBank: Melhorando Modelos de Linguagem Extensos com Memória de Longo Prazo

Modelos de Linguagem Extensos (LLMs) remodelaram drasticamente nossas interações com sistemas de inteligência artificial (IA), demonstrando desempenho impressionante em uma ampla variedade de tarefas. Apesar disso, uma limitação notável persiste— a deficiência de um mecanismo de memória de longo prazo nesses modelos. Essa falha torna-se cada vez mais evidente em situações que exigem interação sustentada, como sistemas de acompanhamento pessoal, aconselhamento psicológico e assistência secretarial. Reconhecendo a necessidade de memória de longo prazo, propomos o MemoryBank, um novo mecanismo de memória projetado para LLMs. O MemoryBank permite que os modelos recuperem memórias relevantes, evoluam continuamente por meio de atualizações contínuas da memória, compreendam e se adaptem à personalidade do usuário ao longo do tempo ao sintetizar informações de interações anteriores. Para imitar comportamentos antropomórficos e preservar seletivamente a memória, o MemoryBank incorpora um mecanismo de atualização de memória, inspirado na teoria da Curva de Esquecimento de Ebbinghaus. Esse mecanismo permite que a IA esqueça e fortaleça a memória com base no tempo decorrido e na importância relativa da memória, oferecendo assim um mecanismo de memória mais humano e uma experiência de usuário enriquecida. O MemoryBank é versátil ao acomodar tanto modelos de código fechado como o ChatGPT quanto modelos de código aberto como o ChatGLM. Para validar a eficácia do MemoryBank, exemplificamos sua aplicação por meio da criação de um chatbot baseado em LLM chamado SiliconFriend em um cenário de Companheiro de IA de longo prazo. Ajustado ainda com dados de diálogo psicológico, o SiliconFriend demonstra empatia e discernimento aprimorados em suas interações. O experimento envolve tanto análise qualitativa com diálogos reais de usuários quanto análise quantitativa com diálogos simulados. Nesta última, o ChatGPT atua como múltiplos usuários com características diversas e gera contextos de diálogo de longo prazo abrangendo uma ampla variedade de tópicos. Os resultados de nossa análise revelam que o SiliconFriend, equipado com o MemoryBank, exibe uma forte capacidade para companheirismo de longo prazo, pois pode fornecer respostas empáticas, recordar memórias relevantes e entender a personalidade do usuário.