跳到正文
OpenReview · State space models· Sangyeob Kim; Sangjin Kim; Soyeon Um; Soyeon Kim; Juhyoung Lee; Hoi-Jun Yoo·· 2023-12-31精选AI 评分80

SNPU:采用两步脉冲编码与移位累加单元的高能效脉冲域深度神经网络处理器

SNPU: An Energy-Efficient Spike Domain Deep-Neural-Network Processor With Two-Step Spike Encoding and Shift-and-Accumulation Unit

AI 导读

基于摘要分析。该研究面向脉冲域深度神经网络推理硬件,提出 SNPU 处理器,通过两步脉冲编码与适应不同稀疏度的处理单元,缓解既有零跳过逻辑依赖特定稀疏条件、实际利用不足的问题。主要验证对象为目标检测、ImageNet 分类和人脸识别,并非 EEG 或 BCI。 两步编码包括神经编码与计算编码。输入神经编码取消以往编码所需的伪随机数发生器,输出神经编码减少冗余内存访问并支持权重复用;作者报告,输入脉冲编码功耗相较 Poisson encoder 降低 99.4%。计算编码结合 multi-level encoding 与 spike-train decomposition:前者合并多个脉冲以缩短时间窗,用单次移位累加(SAC)替代多次累加;后者通过复用计算结果减少 SAC 次数。 作者报告,相较 single-level encoding,multi-level encoding 减少 43.5% 的运算;相较无法复用计算结果的既有 SNN 处理方式,spike-train decomposition 减少 71.8% 的运算;两者结合后,相较未启用这两项机制的 SNPU,运算量减少 83.3%。作者还报告,SAC 单元相较未采用两步编码的累加器阵列降低 80.3% 的功耗,neuron link 与 spike-train allocator 通过处理可变时间窗使 PE 利用率提高 23.1%。上述比较对应不同基线,不宜合并解释为单一端到端收益。 作者报告,目标检测与 ImageNet 分类的能效分别为 13.7 TOPS/W 和 31.5 TOPS/W,人脸识别功耗为 63.2 μW,并声称达到当时最优水平。摘要未提供完整任务配置、精度、工艺、运算计数及功耗测量边界,相关比较、实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可复用机制是脉冲编码、计算复用与硬件调度,而非直接可用的 EEG 解码算法。若用于低功耗 EEG 推理,需改造信号到脉冲的编码接口,并核对低信噪比下的事件密度、编码误差与时延;密集噪声事件可能抵消节能收益。可在固定 EEG 解码模型和数据划分下,对比原始推理与脉冲编码实现的任务指标、端到端能耗及延迟,以检验节能是否以性能损失为代价。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其通过两步脉冲编码、计算复用与移位累加单元协同降低推理开销的硬件机制,但摘要中的能效优势仍需结合任务精度、工艺与功耗测量边界核对。

来源:OpenReview · State space models · openreview.net