跳到正文
OpenReview · State space models· Arani Roy; Marco Paul E. Apolinario; Shristi Das Biswas; Kaushik Roy·· 2024-09-28精选AI 评分71

利用 SVD 空间实现反馈对齐局部训练

Unlocking SVD-Space for Feedback Aligned Local Training

AI 导读

基于摘要分析。本文研究深度神经网络训练中全局反向传播的内存与计算开销,提出在 SVD 权重空间中结合 Direct Feedback Alignment(DFA)的局部训练框架。核心贡献是直接更新权重的 SVD 分量,并在训练期间动态降秩,以兼顾分类性能与训练资源效率。 机制上,作者在训练前将权重矩阵分解为 SVD 分量,通过定制的逐层目标驱动局部更新;目标包含反馈误差、对齐正则化、正交约束和稀疏性,并利用 DFA 避免全局反向传播。摘要未给出各损失项的数学形式、反馈矩阵构造、降秩触发规则及实现细节,尚不能判断各机制的独立贡献。 作者报告,在文中分类评估中,该方法的准确率与传统反向传播相当,训练内存使用和计算成本降低 50–75%。但摘要未列出数据集、网络架构、数据划分、准确率数值、硬件或资源计量口径,因此该幅度只能保留为作者对其评估设置的报告,不能直接外推。作者还声称具有较强的理论收敛保证,并表示代码可用;定理假设、代码内容、实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在 EEG 对应点是资源受限条件下的分类模型训练,而非已证实的 BCI 性能提升。迁移假设依赖可进行矩阵分解的权重及分类误差信号;可复用 SVD 参数化、DFA 与降秩机制,但需适配 EEG 输入、通道结构和局部目标。低信噪比、小样本及跨被试差异可能使反馈对齐不稳定,降秩也可能移除微弱判别信息。可先在固定 EEG 分类模型与同一被试内划分上,对照反向传播和该框架,同时记录分类指标、峰值训练内存及训练耗时,并检验动态降秩的影响。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其 SVD 分量局部更新、反馈对齐与动态降秩如何共同降低训练开销,以及准确率对照、资源计量和收敛保证的适用条件;摘要中的效率结论尚待全文验证。

来源:OpenReview · State space models · openreview.net