跳到正文
OpenReview · State space models· Ari S. Benjamin; David Rolnick; Konrad P. Körding·· 2018-01-01精选AI 评分76

在函数空间中度量与正则化网络

Measuring and regularizing networks in function space

AI 导读

基于摘要分析。本文研究神经网络参数变化能否可靠代表输入—输出函数的变化,提出在 L² Hilbert 空间中直接计算函数距离,并将其用于限制任务间及单次更新中的函数变化。主要研究对象是通用神经网络优化与多任务学习,而非 EEG 或 BCI。 核心机制是区分参数空间中的 ℓ² 距离与函数空间中的 L² 距离。作者报告,函数距离的计算简单且在计算上可行;通过比较优化轨迹不同位置之间的两类距离,发现二者存在非平凡关系。作者报告,在所考察的网络优化过程中,L²/ℓ² 比值随优化下降,并在测试误差趋于平台时达到稳定值。摘要未提供网络、数据集、距离计算所依赖的输入分布、采样方式或具体数值,因此该现象的适用范围尚未验证。 作者进一步提出两项应用:在多任务学习中直接限制任务切换前后的输入—输出函数变化,以抑制灾难性遗忘;在每次参数更新时约束网络在 L² 空间中移动的距离,使新样本学习尽量少干扰已有行为。其方法区别于仅约束参数变化或依赖损失曲率等局部近似,但具体约束形式、优化实现、对照结果、消融及统计信息尚未验证。 平台推测(待验证):若能用具有代表性的历史 EEG 输入估计函数距离,这一机制可能用于约束跨会话或连续任务适应时的预测漂移。可复用的是函数距离约束,需改造的是 EEG 输入采样、历史样本保留及任务输出对齐方式;低信噪比、通道变化、被试差异和小样本可能使距离估计不稳定,过强约束也可能妨碍必要适应。一个可检验的小实验是在固定通道和标签空间的跨会话顺序学习中,对照无约束、参数距离约束与函数距离约束,在一致数据划分下评估旧会话性能保持和新会话适应。该假设不等于已证实的 EEG 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其直接度量和约束输入—输出函数变化的正则化思路,以检验参数距离能否可靠反映模型行为变化;其用于 EEG 持续学习的价值尚未验证。

来源:OpenReview · State space models · openreview.net