Tomada de Decisão Administrativa com IA Generativa: O Desafio da Limitabilidade Epistêmica

Este ensaio reformula a tomada de decisão administrativa na era da IA generativa ao identificar como as limitações epistêmicas, e não as tradicionais limitações de informação, moldam a racionalidade administrativa. Introduzimos o conceito de limitabilidade epistêmica: a incapacidade de verificar a veracidade e os fundamentos das informações disponíveis. Grandes modelos de linguagem (LLMs) exemplificam esse desafio por meio de seus processos de raciocínio opacos e tendência a produzir respostas plausíveis, mas imprecisas. Propomos estratégias sociotécnicas para mitigar essas limitações, incluindo geração aumentada por recuperação (RAG) e procedimentos institucionalizados de verificação para conteúdos gerados por IA. Ao implementar essas estratégias complementares, agências governamentais podem aproveitar as capacidades dos LLMs preservando a integridade e a responsabilidade dos processos de tomada de decisão administrativa.