跳到正文
OpenReview · State space models· Lucas Perez; Mariana Ordones Oliveira Soares; Jackson de Faria; Fabricio Murai; Renato M. Assunção·· 2026-05-25精选AI 评分76

迭代幅值剪枝降低权重空间耦合

Iterative Magnitude Pruning Reduces Weight-Space Coupling

AI 导读

基于摘要分析。本文研究神经网络中冗余、近似等价的参数化结构如何受迭代幅值剪枝影响,借助 Fisher 几何分析权重空间,并提出按维度归一化的对数行列式比率来衡量参数耦合。主要贡献是将剪枝的作用从参数压缩拓展到局部参数几何及优化更新方向的分析。 作者报告,在若干视觉架构与数据集上,剪枝在较广的稀疏度范围内一致降低该耦合指标;与较小的未剪枝网络进行受控比较后,结果提示这一效应不能仅用参数数量减少解释。作者还报告,随着 Fisher 耦合下降,Adam 更新与自然梯度更新更加对齐,而 SGD 未呈现同样关系。作者据此认为,winning tickets 不仅稀疏且可训练,也可能处于局部更简单、坐标间更可分离的权重空间区域。这是局部几何解释,不应扩展为全局优化或泛化改善的保证。 摘要未提供具体架构、数据集、稀疏度数值、效应量,以及 Fisher 的估计方式、指标公式和更新对齐的测量定义;剪枝与训练流程、对照匹配方式、实验协议、消融及统计信息尚未验证。复现需首先核对这些条件,尤其是指标是否对参数尺度和 Fisher 估计误差敏感。 平台推测(待验证):假设该机制可迁移到 EEG 解码网络,迭代幅值剪枝与 Fisher 耦合测量可用于检验小数据条件下模型冗余与优化方向的关系,而非直接作为提升 BCI 性能的方法。原研究依赖视觉数据训练的网络及可估计的 Fisher 几何;迁移时需适配 EEG 输入、任务监督与 Fisher 估计。低信噪比、被试差异、通道差异及小样本可能使几何估计不稳定,剪枝也可能删除弱但有用的信号特征。一个可检验的小实验是在固定 EEG 任务和跨被试划分下,对照剪枝网络与参数量匹配的未剪枝网络,分别检验耦合变化、Adam 与自然梯度更新的对齐关系及解码表现。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是用 Fisher 几何检验剪枝是否改变参数耦合,并以较小未剪枝网络区分参数数量效应,为理解稀疏网络与优化器的关系提供可核对的机制证据。

来源:OpenReview · State space models · openreview.net