面向21世纪,为构建一种具有自适应结构、可解释、泛化强和能效高的人工神经网络(ANN),探索新一代ANN的基础理论、模型和架构。ANN从20世纪40年代首次提出,发展至今已80多年,并将延展至21世纪中叶。本文按五个维度特征将ANN划分成五个时代。当前,处在第四代ANN,其主要特征是数据拟合、深度学习、注意力机制和Transformer结构,以大语言模型为基础的ChatGPT为代表,通过了对话式图灵测试,但属于“黑箱”测试,并局限于离身智能的涌现。根源是基于规模扩展缩放定律的大语言模型本质上不对称性,缺乏对现实世界物理规律的理解,多模态、多形态输出智能呈锯齿型且能效低;而具身智能形态机器人的神经网络还缺少自主智能,只能按预设程序完成规定动作,ANN在离身智能和具身智能之间出现巨大鸿沟。为解决第四代ANN的这些重大缺陷,需要新的理论、模型和架构支撑。当前,围绕下一代ANN的发展方向和技术路线,出现了很多争论和分歧。本文追溯前四代ANN主流理论、模型和架构的发展,重点分析了几种第四代ANN及其增强版的特点,评述了面向第五代ANN的世界模型与联合嵌入预测架构、认知螺旋模型与智痕元胞网络架构。最后,以认知物理学理论和驾驶脑认知技术实践为基础,提出一种具有第五代ANN核心特征的具身认知物理神经网(E-CoPNN)轻量化架构。结论和意义:当今,构建面向21世纪的新一代ANN,在哲学上将从身心二元论转向具身知觉一元论;在理论上,将从20世纪的生物物理学拓展到21世纪的认知物理学;在模型上,将推动ANN研究范式从数据拟合转向结构重构;在应用上,将填补ANN发展中离身智能与具身智能的鸿沟;在代际上,将从第四代ANN跃升到具有类脑认知和自适应结构等特征的第五代ANN;并为实现会学习、自成长、自纠错、可交互的具身认知机器人广泛应用奠定基础,支撑认知为融合先导的四大科技“纳米-生物-信息-认知”(NBIC)聚合发展,提高人类智能能力,迎接认知革命。
Building similarity graph...
Analyzing shared references across papers
Loading...
Bao Hong
Liang Tianjiao
Zheng Ying
Journal of Image and Graphics
Building similarity graph...
Analyzing shared references across papers
Loading...
Hong et al. (Thu,) studied this question.
www.synapsesocial.com/papers/69d893896c1944d70ce0488d — DOI: https://doi.org/10.11834/jig.260112