Explorando las limitaciones de la inteligencia artificial general: Un modelo teórico de juegos de la interacción humano vs máquina

La posible aparición de sistemas de inteligencia artificial general (AGI) ha generado un intenso debate entre investigadores, responsables políticos y el público debido a su potencial para superar la inteligencia humana en todos los ámbitos. Esta nota sostiene que, para que una IA se considere "general", debería alcanzar un rendimiento superhumano no solo en juegos de suma cero, sino también en juegos de suma general, donde ganar o perder no está claramente definido. En esta nota, propongo un marco teórico de juegos que captura las interacciones estratégicas entre un agente humano representativo y un posible agente máquina superhumano. Cuatro supuestos sustentan este marco: Máquina Superhumana, Estrategia de la Máquina, Racionalidad e Imprevisibilidad Estratégica. El resultado principal es un teorema de imposibilidad, que establece que estos supuestos son inconsistentes cuando se toman juntos, pero relajar cualquiera de ellos resulta en un conjunto consistente de supuestos. Esta nota contribuye a una mejor comprensión del contexto teórico que puede moldear el desarrollo de la IA superhumana.