跳到正文
arXiv · 表征与预训练· Sunny Gupta; Amit Sethi·· 22 小时前精选AI 评分75

用于域泛化的曲率启发式标量特征缩放的受控评估

A Controlled Evaluation of Curvature Inspired Scalar Feature Scaling for Domain Generalization

AI 导读

基于摘要分析。本文研究曲率启发式特征缩放是否改善域泛化,通过实现审计与受控比较,给出一个特定标量缩放训练方案的有限范围负结果,而非评估真正的双曲表征学习。 机制方面,代码将该实现称为 HyperDG,但其实际操作是在训练期间用学习到的正标量缩放欧氏编码器特征,推理时则在未缩放的欧氏特征上使用普通线性分类器。作者明确指出,该实现不包含 Lorentz 或 Poincaré 表征、测地线预测,也不包含 Sharpness-Aware Minimization 内循环。因此,“曲率学习”这一名称不能替代对实际计算过程的核对。 评估覆盖 PACS、VLCS、Office Home 和 TerraIncognita。作者报告完成 384 次运行:每个数据集包含六种条件、四个留出目标域和四个运行种子;检查点仅依据三个源域验证环境选择。统计推断先在每个留出目标域内平均配对种子的差值,再以目标域作为数据集内的聚类单位,而非将 16 个种子与目标域组合视为独立观察。 作者报告,完整实现相对原生 DomainBed ERM 的等权数据集宏平均点估计低 1.61 个百分点,95% 聚类置信区间为 [-3.17, -0.04]。四个数据集的点估计均偏向 ERM,但四数据集精确符号翻转检验得到 p = .125,Holm 校正后 p = .250,因此作者不声称存在经校正支持的差异。 更直接的域特异性对照是“各源域分别学习标量、去除标量方差惩罚”与“所有源域共享一个学习标量”。作者报告差值为 -0.13 个百分点,95% 置信区间为 [-0.53, 0.27];其 90% 置信区间落在修订阶段设定的 ±1 个百分点最小实际重要效应界限内,TOST p = .003。等效性结论仅适用于源域验证选择下的整套评估宏平均,不适用于每个数据集、目标域或最终训练步终点。 全文尚未取得,六种条件的完整定义、训练配置及统计实现细节尚未验证。材料未提供 EEG 或 BCI 实验,不能据此判断该方案在神经信号域泛化中的有效性。

阅读价值

值得阅读的是对 HyperDG 实际执行机制、源域模型选择和聚类统计推断的受控审计;作者给出的负结果与等效性结论均限定于标量缩放训练方案,不能外推为对双曲表征学习的否定。

来源:arXiv · 表征与预训练 · arxiv.org