Por que metáforas mentais não nos ajudam a entender os erros dos chatbots

A função de chatbots como o ChatGPT da OpenAI baseia-se na detecção de padrões probabilísticos nos dados de treinamento. Isso os torna vulneráveis à geração de erros factuais em suas respostas. Recentemente, tornou-se comum nos discursos filosóficos, científicos e populares capturar tais erros por meio de metáforas que recorrem a discursos sobre a mente humana. As duas metáforas mais populares atualmente são alucinação e papo-furado. Neste artigo, revisamos, discutimos e criticamos essas metáforas mentais. Aplicando a teoria da metáfora conceitual, fornecemos inúmeras razões pelas quais elas não conseguem nos proporcionar uma melhor compreensão dos erros factuais dos chatbots. Concluímos convocando justificativas para a viabilidade epistêmica e a frutificação das metáforas em questão. Além disso, levantamos a questão do que seria perdido se deixássemos de tentar capturar os erros factuais dos chatbots por metáforas mentais.