Por que nenhuma inteligência artificial única e unificada surgiu - um sistema capaz de realizar tarefas abertas e robustas em diversos domínios enquanto opera indefinidamente sem risco inaceitável de falha? Este artigo argumenta que tal sistema não é apenas não realizado, mas estruturalmente instável. Formalizamos uma restrição universal sobre inteligência persistente: qualquer sistema exigido a tomar decisões sequenciais sob incerteza, com recursos limitados, e na presença de estados de falha irreversíveis não pode permanecer arquitetonicamente singular em longo prazo. Provamos um resultado de impossibilidade para inteligência singular usando derivações explícitas de: (i) acumulação de risco catastrófico na cauda em processos de decisão sequencial, (ii) limites de arrependimento no pior caso oriundos da aprendizagem online, (iii) instabilidade de compromissos objetivos fixos sob trade-offs de longo prazo, (iv) limites de comunicação e consenso em controle em larga escala, e (v) restrições de equilíbrio em interações repetidas. A biologia evolutiva emerge como uma consequência: populações surgem porque organismos singulares são estruturalmente frágeis sob risco de extinção. Pluralidade interna nas mentes, formação de normas nas sociedades e modularidade em sistemas engenheirados são mostradas como outras instâncias da mesma restrição. A conclusão central é que inteligência geral persistente - especialmente em sistemas artificiais - deve incorporar pluralidade sob a forma de redundância, múltiplos avaliadores, arbitragem, autonomia modular e restrições de governança. Superinteligência singular não é um ponto final estável da inteligência; é um miragem conceitual produzida ao ignorar restrições de persistência.
Building similarity graph...
Analyzing shared references across papers
Loading...
Sanjaya Kumar Sahoo
Ospedale Infermi di Rimini
Building similarity graph...
Analyzing shared references across papers
Loading...
Sanjaya Kumar Sahoo (qui,) estudou esta questão.
www.synapsesocial.com/papers/6980fd60c1c9540dea80f0d5 — DOI: https://doi.org/10.5281/zenodo.18408801
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: