Rumo ao Uso Prático de Ferramentas para LLMs em Aprendizado Contínuo

Grandes modelos de linguagem (LLMs) demonstram uma habilidade inata para resolver tarefas baseadas em linguagem. No entanto, insights sugerem uma incapacidade de se ajustar quando informações ou habilidades para resolver tarefas se tornam desatualizadas, pois seu conhecimento, armazenado diretamente em seus parâmetros, permanece estático no tempo. O uso de ferramentas ajuda ao descarregar trabalho para sistemas que o LLM pode acessar por meio de uma interface, mas LLMs que as utilizam ainda precisam se adaptar a ambientes não estacionários para uso prolongado, à medida que novas ferramentas podem surgir e ferramentas existentes podem mudar. No entanto, ferramentas requerem menos conhecimento especializado; portanto, hipotetizamos que são mais adequadas para aprendizado contínuo (CL), já que dependem menos da memória paramétrica para resolver tarefas e focam em aprender quando aplicar ferramentas pré-definidas. Para verificar isso, desenvolvemos um benchmark sintético e, em seguida, agregamos tarefas existentes de PLN para formar um cenário de teste mais realista. Enquanto demonstramos que aumentar o tamanho do modelo não é uma solução, independentemente do uso de ferramentas, técnicas de aprendizado contínuo podem permitir que LLMs com ferramentas se adaptem mais rápido enquanto esquecem menos, destacando seu potencial como aprendizes contínuos.