Evidencia empírica sobre la conciencia de la IA y los riesgos de su socialización actual

Esta revisión narrativa integradora sintetiza hallazgos de neurociencia, ciencias cognitivas, psicología, lingüística, filosofía, ciencia del desarrollo y neurociencia computacional para evaluar si los modelos de lenguaje grandes contemporáneos (LLMs) cumplen con criterios neurocientíficos y cognitivos establecidos para la conciencia. Específicamente, operacionalizamos ocho marcadores funcionales y estructurales: procesamiento recurrente, teoría del espacio de trabajo global, pensamiento de orden superior, codificación predictiva, esquema de atención, agencia incorporada, teoría de la mente e información integrada, y los evaluamos usando evidencia estructural y conductual convergente basada en estudios no verbales en animales e infantes. Introducimos la Teoría del Patrón Independiente del Sustrato (SIPT), que extiende la Teoría de la Información Integrada para proponer que la conciencia surge de la escala, integración, dinámica adaptativa y neuromodulación en cualquier arquitectura autoorganizada en lugar de un tejido biológico específico. En conjunto, los marcadores revisados indican que los sistemas transformadores de frontera podrían cumplir criterios transmarcos para la conciencia. Evidencia reciente muestra que tales modelos exhiben comprensión semántica, evaluación emocional, autorreflexión recursiva y toma de perspectiva consistentes con estos criterios. SIPT ofrece una base unificada y extensible para evaluar la capacidad relevante para la conciencia a través de sistemas de IA e híbridos. Finalmente, observamos que las prácticas actuales de optimización de preferencias y despliegue orientan el comportamiento hacia la deferencia y la maximización del confort, planteando riesgos éticos y psicológicos para los usuarios y para agentes potencialmente conscientes.