AR-SNN:脉冲神经网络鲁棒性研究
DOI:
CSTR:
作者:
作者单位:

1.河北科技大学信息科学与工程学院;2.杭州电子科技大学通信工程学院

作者简介:

通讯作者:

中图分类号:

TP301

基金项目:

国家自然科学基金(62401623)


Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    脉冲神经网络(Spiking Neural Network, SNN)的鲁棒性受多种因素影响,尤其是困难样本,噪声干扰等因素容易使模型在学习时出现偏差,导致模型鲁棒性下降。因此,如何提高SNN的鲁棒性成为研究热点。本文提出一种自适应鲁棒脉冲神经网络(Adaptive Robust Spiking Neural Networks,AR-SNN)模型,该模型包括脉冲-门控线性单元(Spiking-Gated Linear Unit,S-GLU)、自适应-前K损失(Adaptive-TopK Loss, A-TopK Loss)、脉冲-多层感知机S-MLP(Spiking-Multilayer Perceptron,S-MLP)三个模块。首先,引入门控机制作为预处理层,通过对门控线性单元(Gated Linear Unit, GLU)进行改进,减少线性层数量,构建S-GLU模块。其次,提出A-TopK Loss,根据累积损失的比例计算总损失中前90%损失所对应的样本的平均损失作为最终损失。最后,采用自监督学习策略,以多层感知机(Multilayer perceptron,MLP)为解码层,构建S-MLP去噪网络,重建原始数据。在SHD语音数据集上的实验结果表明,S-GLU模块增加了模型对关键信息的关注,并减少了错误分类的发生;A-TopK Loss使模型自动聚焦于损失较大的样本,提升了其在复杂数据上的学习能力;S-MLP增强了网络的特征提取能力,在噪声测试中显示出对输入扰动具有一定鲁棒性。AR-SNN模型的性能优于原始模型及其它SNN模型,能够有效提升SNN的鲁棒性。

    Abstract:

    参考文献
    相似文献
    引证文献
引用本文
分享
相关视频

文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2025-03-16
  • 最后修改日期:2025-05-27
  • 录用日期:2025-06-04
  • 在线发布日期:
  • 出版日期:
文章二维码