À medida que grandes modelos de linguagem são integrados aos fluxos de trabalho de comunicação profissional, a confiabilidade do conteúdo gerado por IA surge como um desafio de governança, e não apenas técnico. Este artigo propõe uma arquitetura de governança de alucinações, uma abordagem estruturada para gerir a confiabilidade do conteúdo gerado por IA por meio de processos sistemáticos de verificação, classificação de fontes, testes adversariais de qualidade e controles operacionais de governança. Baseando-se na teoria da responsabilidade, epistemologia do testemunho e literatura sobre governança da informação, a arquitetura aborda uma lacuna documentada: as abordagens existentes para alucinações focam principalmente na detecção e mitigação ao nível do modelo, enquanto a governança organizacional do conteúdo gerado por IA em contextos profissionais permanece amplamente inexplorada. A arquitetura compreende cinco componentes integrados: (1) uma hierarquia calibrada de fontes em quatro níveis com marcadores explícitos de verificação que possibilitam validação humana; (2) uma barreira de qualidade adversarial com pontuação de risco quantificada; (3) um sistema de execução em modo duplo que suporta verificação rápida e abrangente; (4) governança independente de canal com templates específicos para domínios; e (5) capacidade de implantação multiplataforma. O Protocolo Grounded Gate (GGP) demonstra uma instância viável, implementada como um framework de engenharia de prompt que pode ser implantado nas principais plataformas de grandes modelos de linguagem. Desenvolvida por meio da metodologia Design Science Research com refinamento iterativo em casos de uso profissional, a arquitetura é apresentada como uma contribuição conceitual que requer validação empírica. Este trabalho convida a comunidade de pesquisa a avaliar, criticar, estender e testar empiricamente esta abordagem de governança.
Building similarity graph...
Analyzing shared references across papers
Loading...
Liz Magaly Herrera
Building similarity graph...
Analyzing shared references across papers
Loading...
Liz Magaly Herrera (Sat,) estudou esta questão.
www.synapsesocial.com/papers/699fe33695ddcd3a253e6f18 — DOI: https://doi.org/10.5281/zenodo.18743184
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: