跳到正文
热点事件持续更新

DSN以状态驱动休眠减少SNN冗余计算

1 篇报道1 个报道来源19 小时前更新

先了解这件事

AI 综述

基于摘要分析:DSN(arXiv:2610.21748)针对SNN突触后神经元持续阈下更新的开销,在膜电位低于预设负阈值时以动态门控进入休眠,按样本跳过冗余计算;机制融入神经元动态,以替代梯度和时间反向传播端到端训练。 作者报告,ImageNet训练的ResNet-18中深度受抑制神经元最高占44%;静态及神经形态数据集上的计算能耗降低40%至超过70%;ImageNet上在相近报告成本降幅下优于静态剪枝,较对应基线SNN准确率提升1.34%(是否为百分点尚未验证)。 平台分析:计算能耗估计不等于硬件实测节能。休眠状态保留与唤醒规则、数据划分、各实验能耗口径及基线协议尚未验证,EEG适用性亦未验证。当前仅有该摘要报道,无可核对的版本变化。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv · 架构与算子精选
    休眠脉冲神经元:面向高效脉冲神经网络的状态驱动机制

    基于摘要分析。本文研究脉冲神经网络(SNNs)中突触后神经元持续进行阈下动态更新所产生的计算开销,提出 Dormant Spiking Neuron(DSN),通过可训练的状态驱动休眠机制减少冗余计算,而非仅依赖突触前输入稀疏性。 核心机制是引入动态门控:当膜电位低于预设负阈值时,神经元进入休眠状态,在样本实例层面跳过冗余计算。该机制直接融入神经元动态,并通过替代梯度与时间反向传播进行端到端训练。作者认为,网络可由此学习在节省计算的同时保留关键信息流。休眠期间保留哪些状态更新、如何唤醒及阈值如何设定,摘要未说明,尚待全文核对。 作者报告,在 ImageNet 上训练的 ResNet-18 中,深度受抑制神经元的占比最高可达 44%。在静态及神经形态数据集实验中,作者报告计算能耗降低 40% 至超过 70%;摘要未给出各数据集、模型与能耗口径的对应关系。在 ImageNet 实验中,作者报告 DSN 在相近的所报告成本降幅下优于先进静态剪枝技术,并使对应基线 SNN 的准确率提升 1.34%;该数值是否指百分点、具体基线及评估协议尚未验证。计算能耗估计不能直接等同于硬件实测节能。 平台推测(待验证):若 EEG 任务采用需要持续更新膜电位的 SNN,DSN 可能减少低放电概率单元的更新开销;可复用部分是状态门控及其训练机制,需改造部分包括 EEG 输入编码与任务网络的适配。风险在于低信噪比、小数据及跨被试分布变化可能使休眠策略抑制微弱但有效的信号。一个可检验的小实验是,在固定 EEG 数据划分、编码和训练预算下,对比原始 SNN 与加入 DSN 的版本,分别记录任务指标、状态更新次数和实测能耗,检验节能是否以性能损失为代价。已有 EEG 相关工作尚未检索确认;完整实验协议、消融及统计信息尚未验证。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。