自动化所提出以生物可塑性为核心的类脑脉冲神经网络

与传统人工神经网络相比，脉冲神经网络更接近人脑神经网络的工作机理，更适合用于揭示智能的本质，不但可以用来对脑神经系统进行建模，而且能够应用于解决人工智能的问题。脉冲神经网络具有膜电势的非线性积累、达到阈值后的脉冲放电以及放电后的不应期冷却等更加扎实的生物基础，这些特性在给脉冲神经网络提供了更加复杂的信息处理能力的同时，也为它的训练和优化带来了挑战。

传统的基于误差反传的学习方法已经被证明可以很好地优化人工神经网络，然而其要求网络和神经元节点处处可微分，因此不适用于脉冲神经网络的优化，其原理也与生物脑的学习法则存在差距。目前还没有一套针对脉冲神经网络的通用训练方法。但是考虑到生物系统中自有一套可塑性学习机制指导着生物脉冲网络的学习和训练，因此以生物可塑性原理出发，最终启发得到脉冲神经网络的训练方法，将会是一个可能的途径。 

据此，中国科学院自动化研究所类脑智能研究中心团队研究员曾毅课题组提出以生物可塑性为核心的类脑脉冲神经网络，在MNIST手写识别任务中正确率接近人工神经网络水平，拉近了类脑脉冲神经网络与人工智能应用之间的距离。课题组主要遴选了两条生物可塑性规则作为研究对象：首先，任何的理论优化方法，其最终目的都是为网络实现稳定的功能表达，在微观尺度即是神经元的膜电位改变和输入电流达到平衡，在宏观尺度即是网络功能输出和信息输入达到平衡；其次，生物网络的训练中，突触权值往往是随着突触前后神经元放电的状态变化而被动的更新，如脉冲时序依赖的突触可塑性（Spike-Timing Dependent Plasticity，STDP）。基于上述两点规则的启发，研究将脉冲网络训练方法分为四个步骤：基于前馈的膜电位信息更新；基于输入输出稳态控制的膜电位信息更新；基于一层误差反馈的膜电位更新；基于STDP的由膜电位变化到突触变化的被动更新。“为了验证四个步骤网络训练的有效性，我们采用最简的三层脉冲神经网络进行测试，最终在MNIST任务上达到分类正确率为98.52%。据了解，这已是应用生物神经可塑性进行训练的纯脉冲神经网络应用到MNIST数据集上取得的最好结果，在我们的工作之前，最好的是2015年的一个结果，大致在95%左右。”研究人员介绍到，“这项研究使得类脑脉冲神经网络在MNIST手写数字识别问题上基本上具备了与深度神经网络的可比性。用脉冲神经元替换通过反向传播训练的人工神经网络上的神经元，可以构建卷积脉冲神经网络(Convolutional SNN)，正确率甚至还可以进一步达到99.1%，但是这样的学习机制实际上仍然是人工神经网络和反向传播在发挥作用，而不是脉冲神经网络的能力，更不是真正的脑启发的学习机制。这项研究的模型具备相对更全面的生物合理性，更能反映智能的本质，揭示生物脑可塑性的原理应用到人工智能问题上的潜力”。

相关研究成果已被第32届AAAI大会接收。

图1.三层脉冲神经网络架构

图2.生物可塑性原理为核心的脉冲网络测试准确率