华夏时讯

自动化所成功将脑神经系统原理应用于类脑脉冲神经网络

最近,中国科学院自动化研究所类脑智能研究中心研究员曾毅与团队成员在一项研究中总结归纳了七条受脑启发的学习准则,并成功应用于改善脉冲神经网络。通过组合不同的受脑启发的规则,实验研究验证了:随着越来越多的、经过仔细选择的、受脑启发的规则的引入,深层脉冲神经网络能够得到越来越好的分类性能。

虽然相比传统的人工神经元而言,脉冲神经元已具备更扎实的生物真实性,然而传统的脉冲神经网络模型仅仅抓住了脑信息处理过程中初步的局部学习训练法则。由于生物脑在学习过程中协同了若干个法则,因此不能奢望仅仅采用较少的法则设计的类脑脉冲神经网络模型就能够达到甚至超越生物脑的各种学习能力。

研究团队提出的7条学习准则都来源于对生物脑的实验研究,并各自从不同的侧面反映了生物网络的学习特性,如神经元的动态分配、突触的自适应生长和消亡机制、不同的突触可塑性学习机制(如不同类型的时序依赖突触可塑性)、网络背景噪声对学习的调控机制、兴奋性和抑制性神经元的比例对学习的调节机制等。

在这些学习准则中,神经元的动态分配、突触的生成与消亡、可塑性模型等被认为是脑神经网络处理信息的重要特性。研究团队将上述受脑启发的规则引入脉冲神经网络模型,希望提升传统脉冲神经网络的效率。

研究团队所提出的脉冲神经网络模型主要包含三部分:脉冲生成层、隐层、输出层。在脉冲生成层中,静态图像输入被转化为脉冲序列。在隐层中,神经元的动态分配(R1, R2)、突触的生长消亡(R3, R4)、不同类型的背景噪声(R5)、不同类型的脉冲时序依赖可塑性模型(R6)、兴奋和抑制性神经元(R7)被作为类脑的重要机制引入。在输出层,兴奋性神经元负责进行分类,抑制性神经元实现赢者通吃的机制(WTA)。实验验证方面,研究采用了手写数数据集MNIST

实验表明,当引入精心选择的类脑机制后,模型的正确率会逐步提升。

研究人员表示,模型性能的最优化并不是该研究追求的最终目标。团队提出的模型特点在于计算机制上相比传统神经网络模型更具生物可解释性,在这种情况下,通过计算建模理解脑信息处理机制与过程的意义,以及由此带来的启发,要远大于对性能的追求。

项研究工作的主要结论是:每一项引入的机制对于脉冲神经网络处理模式识别类问题都有自己独特的贡献,并且相互不可替代 (如图1所示)。此外,在MNIST数据集上取得最好模式识别效率的兴奋性和抑制性神经元比例为15%抑制性神经元,85%兴奋性神经元(如图2所示),这与生物脑皮层感知区域的兴奋性与抑制性神经元比例近乎一致,从计算的视角初步佐证了脑神经系统在向解决认知任务优化的方向进化。相关研究成果发表于Science China Information Sciences

自动化所成功将脑神经系统原理应用于类脑脉冲神经网络

1. 通过不断引入不同的类脑机制提升脉冲神经网络的正确率

自动化所成功将脑神经系统原理应用于类脑脉冲神经网络

图2. 两种抑制性神经元及其比例对模式识别类任务正确率的影响


相关推荐
新闻聚焦
猜你喜欢
热门推荐
  • 第四届城市科学节在北京展览馆开幕,学生

      第四届城市科学节近日在北京展览馆开幕。本届城市科学节以奇妙的科技之旅为年度主题。本次活动主要针对5-25岁青少年、......

    05-05    来源:华夏时讯| 编辑:确牛

    分享
  • 我国第二艘航空母舰下水 范长龙出席仪式

      我国第二艘航空母舰下水仪式26日上午在中国船舶重工集团公司大连造船厂举行。中共中央政治局委员、中央军委副主席范长......

    04-26    来源:中国日报网 | 编辑:确牛

    分享
  • 银川花博园51个郁金香品种进入盛花期

      近日,记者来到银川花博园了解到,为了迎接第九届中国花卉博览会开幕,银川市林业局在花博会首次尝试大面积种植郁金香......

    04-25    来源:人民网 宁夏频道

    分享
  • 第九届中国花卉博览会宣传语新鲜出炉

      自3月5日第九届中国花卉博览会和中国银川首届荷花节宣传语征集活动结束之后,经过一个月的严格评选,第九届中国花卉博......

    04-25    来源:人民网 宁夏频道

    分享
  • 这位异乡的游子写遍了苏州的乡愁

      在江苏媒体圈,应志刚算得上是一位传奇人物。做了20年深度调查记者,带出来的学生,不少已是各家媒体的中坚力量,至今......

    04-27    来源:人民网 宁夏频道

    分享
  • “永州之野”将登陆2018中国中部(湖南)

      以质量兴农、品牌强农、绿色发展、乡村振兴为主题的第十六届中国国际农产品交易会暨第二十届中国中部(湖南)农业博览会......

    11-05    来源:华夏时讯 | 编辑:确牛

    分享
  • 解密飞鸽传书-鸽子是靠地磁导航的

      一只信鸽,即使你把它带到千里之外的陌生地方,它也能把信带回家。在鸽子头顶和脖子上绕几匝线圈,以小电池供电,鸽子......

    05-11    来源:华夏时讯 | 编辑:确牛

    分享
  • 第十六届中国国际农产品交易会举行 新疆

      久闻新疆瓜果飘香,今天终于品尝到了!11月1日,第十六届中国国际农产品交易会暨第二十届中国中部(湖南)农业博览会在......

    11-03    来源:华夏时讯 | 编辑:确牛

    分享
  • 《我们诞生在中国》北美票房名列前茅

      中新社洛杉矶4月29日电 (记者 张朔)《我们诞生在中国》(Born in China)北美上映首周成绩不俗,在最近一周北美票房排行榜近百......

    04-30    来源:人民网 | 编辑:确牛

    分享
  • 韩国第19届总统选举的八大变化

      人民网首尔5月10日电(夏雪、实习生 袁晓雪)备受瞩目的2017年韩国大选已尘埃落定,最大在野党共同民主党的候选人文在寅......

    05-10    来源:人民网 | 编辑:确牛

    分享
返回列表
 
Ctrl+D 将本页面保存为书签,全面了解最新资讯,方便快捷。