以人工神经网络（artificial neural network, ANN）为代表的人工智能技术飞速发展，大幅跨越了科学与应用之间的技术鸿沟，然而从能源消耗和环境影响等角度，现行的ANN不可持续。相较于现行的ANN，脉冲神经网络(spiking neural network, SNN)具有更好的生物可解释性、更强的时空表征能力和更低的功耗(可低至0.2%)，因此被誉为第三代神经网络。然而，目前深度学习中许多重要的突破，如AlphaFold2和ChatGPT，还是基于传统的ANN，其中最重要的原因之一就是SNN难以直接高效地训练，使得它在目标任务上的准确率远不及同规模的ANN。
图1、CSBP算法原理示意图
近日，国科大杭州高等研究院的陈洛南团队在《国家科学评论》（National Science Review，IF=22.3）发表了题为Brain-inspired Chaotic Spiking Backpropagation的研究成果。该研究提出了一个受大脑启发的混沌脉冲反向传播算法(chaotic spiking backpropagation, CSBP)，它作为深度学习的通用算法，通过引入一项损失函数使网络权重产生了类似大脑中的混沌动力学，并进一步利用混沌的遍历性和伪随机性，使SNN的学习变得即高效且鲁棒（图1）。
图2、CSBP在CIFAR100数据集上的性能
理论上，该工作证明 CSBP 的学习过程最初是混沌的，随后出现各种分岔现象，最终退化为梯度动力学并收敛。特别是，CSBP也可作为一个插件应用于各种现行SNN算法从而显著提高学习效能。计算上， CSBP 在神经形态数据集（如 DVS-CIFAR10 和 DVS-Gesture）和大规模静态数据集（如 CIFAR100（图2） 和 ImageNet）上的准确性和鲁棒性都明显优于目前最先进的方法 (SOTA)。总之，该工作为直接高效训练SNN提供了一个重要的通用学习工具，并为理解大脑的学习过程提供了新的见解。
国科大杭州高等研究院的2021级直博生王梓鉴和助理研究员陶鹏为本论文共同第一作者，陈洛南研究员为通讯作者。国家自然科学基金和中科院为此项研究提供了资助。
论文链接：https://doi.org/10.1093/nsr/nwae037
Github链接：https://github.com/Wangzj000/CSBP
