Grandes Modelos de Linguagem possuem Habilidade Intrínseca de Auto-Correção

Grandes modelos de linguagem (LLMs) têm atraído atenção significativa por suas habilidades notáveis em várias tarefas de processamento de linguagem natural, mas sofrem de alucinações que podem causar degradação de desempenho. Uma solução promissora para melhorar o desempenho dos LLMs é pedir que eles revisem suas respostas após a geração, uma técnica conhecida como auto-correção. Entre os dois tipos de auto-correção, a auto-correção intrínseca é considerada uma direção promissora por não utilizar conhecimento externo. No entanto, trabalhos recentes questionam a validade da capacidade dos LLMs de realizar auto-correção intrínseca. Neste artigo, apresentamos uma nova perspectiva sobre as capacidades de auto-correção intrínseca dos LLMs por meio de análises teóricas e experimentos empíricos. Além disso, identificamos dois fatores críticos para o sucesso da auto-correção: temperatura zero e prompts justos. Aproveitando esses fatores, demonstramos que a habilidade de auto-correção intrínseca é exibida em vários LLMs existentes. Nossas descobertas oferecem insights sobre as teorias fundamentais que sustentam o comportamento de auto-correção dos LLMs e ressaltam a importância de prompts imparciais e configurações de temperatura zero para aproveitar seu potencial completo.