我国科学家合作开源深度脉冲神经网络学习框架“惊蜇”
北京青年报客户端 2023-10-11 19:54

中国科学院自动化研究所李国齐研究员与北京大学计算机学院田永鸿教授团队合作,构建并开源了深度脉冲神经网络学习框架SpikingJelly(中文名:惊蜇)。SpikingJelly(惊蜇)提供了全栈式的脉冲深度学习解决方案,支持神经形态数据处理、深度SNN的构建、替代梯度训练、ANN转换SNN、权重量化和神经形态芯片部署等功能。介绍SpikingJelly (惊蜇)框架的论文近日在《科协》子刊《科学进展》在线发表。

脉冲神经网络(SNN)被誉为第三代神经网络,使用更低层次的生物神经系统的抽象,既是神经科学中研究大脑原理的基本工具,又因其稀疏计算、事件驱动、超低功耗的特性而备受计算科学的关注。随着深度学习方法的引入,SNN的性能得到大幅度提升,脉冲深度学习成为新兴的研究热点。传统SNN框架更多的关注生物可解释性,致力于构建精细脉冲神经元并仿真真实生物神经系统,并不支持自动微分,无法充分利用GPU的大规模并行计算能力,也缺乏对神经形态传感器和计算芯片的支持。

为了解决上述问题,李国齐研究员与田永鸿教授团队合作构建并开源了深度脉冲神经网络学习框架SpikingJelly(惊蜇),其主要优势包括简单易用、扩展性强和超高性能。第三方独立社区Open Neuromorphic组织对多个SNN框架进行了精细的速度基准测试,参与评测的框架除了SpikingJelly(惊蜇)还包括来自英特尔、SynSense时识科技、加州大学圣克鲁斯分校、海德堡大学、瑞典皇家理工学院等科技公司和学术机构的框架,结果表明SpikingJelly(惊蜇)具有最快的仿真速度,比其他框架快10倍以上。

SpikingJelly(惊蜇)框架自2019年冬季一经推出就受到了研究者们的欢迎和广泛使用,基于SpikingJelly(惊蜇)的研究工作已经大量出版,将SNN的应用从简单的MNIST数据集分类扩展到人类水平的ImageNet图像分类、网络部署、事件相机数据处理等实际应用。此外,一些尖端前沿领域的探索也被报道,包括可校准的神经形态感知系统、神经形态忆阻器、事件驱动加速器硬件设计等。目前有超过95篇公开论文使用SpikingJelly(惊蜇)框架进行实验,其中25篇发表在CCF-A类人工智能顶级会议。SpikingJelly(惊蜇)的开源极大促进了脉冲深度学习领域的发展。

文/北京青年报记者 雷嘉
编辑/李晓萌

相关阅读
海淀科技企业自研“脉冲高速相机” 支持国际间科研合作
北京青年报客户端 2024-12-13
2024诺贝尔物理奖为何同时颁给一位计算机科学家?
第一财经 2024-10-09
人工智能“突破”:人造神经网络有了语言概括能力
澎湃新闻 2023-10-29
我科学家在类脑芯片领域取得重要进展
光明日报 2023-10-18
“问天I”类脑计算机发布,已实现超过5亿神经元2500亿突触智能规模
澎湃新闻 2023-10-18
我科学家成功打造通用类脑人工智能引擎
科技日报 2023-08-17
赏读|立正,向人类学习
北京青年报客户端 2023-06-17
我国科学家实现大脑神经化学信号与电信号转导模拟
光明日报 2023-01-14
最新评论