神经网络中的函数空间正则化:概率视角
Function-Space Regularization in Neural Networks: A Probabilistic Perspective
基于摘要分析。本文研究如何在神经网络训练中显式表达对预测函数的偏好,而不只约束模型参数,提出 function-space empirical Bayes(FS-EB),将参数空间与函数空间正则化结合起来。 核心机制是从概率视角将参数空间正则化解释为对模型参数指定经验先验,并据此推导能够编码目标预测函数信息的正则化方法。其与标准参数空间正则化的主要区别在于,约束对象不仅包括参数,也包括模型所实现的预测函数。作者称该方法数学形式简单、易于实现,相比标准正则化仅增加少量计算开销;具体先验构造、函数空间约束形式、损失及优化流程尚未验证。 作者报告,FS-EB 在所评估任务中实现了接近完美的语义偏移检测、良好校准的预测不确定性估计、从预训练模型进行成功的任务适配,以及协变量偏移下的泛化改善。摘要未提供数据集、划分、对照基线或量化指标,因此这些描述不能作为跨协议性能比较的依据;实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设能够为 EEG 分类建立合理的预测函数偏好,FS-EB 或可用于缓解跨被试或跨会话分布变化下的泛化与不确定性校准问题。可借鉴的是参数与函数联合正则化的思路,但需核对其对监督信息、先验估计样本及数据规模的依赖,并根据 EEG 任务改造函数偏好及其估计方式。低信噪比、通道差异和小样本可能使经验先验失真,甚至约束掉有用的个体差异。一个可检验的小实验是在固定跨被试划分与相同骨干模型下,对比标准参数正则化与 FS-EB;函数偏好仅由训练数据确定,分别评估分类表现和不确定性校准,并检查性能变化的稳定性。已有 EEG 相关工作尚未检索确认。
值得阅读其如何通过经验贝叶斯把预测函数偏好纳入正则化,并核对语义偏移检测、预测不确定性校准和预训练模型任务适配的评估协议;其对 EEG 的适用性尚未验证。
来源:OpenReview · State space models · openreview.net