跳到正文
OpenReview · EEG· Ahmad Bdeir; Niels Landwehr·· 2024-01-01精选AI 评分74

优化曲率学习以实现稳健的计算机视觉双曲深度学习

Optimizing Curvature Learning for Robust Hyperbolic Deep Learning in Computer Vision

AI 导读

基于摘要分析。本文主要研究计算机视觉中的双曲深度学习,针对双曲模型易过拟合、计算开销较大,以及学习流形曲率时训练不稳定的问题,提出 Riemannian AdamW 的推导、可微调的双曲缩放方法和面向 Lorentzian Optimizers 的曲率感知学习方案;评估范围也包括 EEG 分类与层次度量学习。 机制上,双曲空间的负曲率及随距离呈指数增长的度量特性,有助于表达数据的层次关系并提高嵌入的可分性。作者将 Riemannian AdamW 用于改善泛化,通过双曲缩放约束嵌入、降低近似误差,再结合曲率感知学习方案,使曲率与非平凡化的双曲参数能够共同学习。摘要未给出具体更新公式、缩放约束形式及曲率参数化方式,这些机制细节尚未验证。 作者报告,该方案在计算机视觉、EEG 分类和层次度量学习任务中均取得一致的性能改善,在其中两个领域达到作者所称的最先进结果,并显著缩短运行时间。摘要未指明是哪两个领域,也未提供 EEG 数据集、分类任务、被试数、被试内或跨被试划分、对照基线、指标及运行时间测量条件,因此不能据此认定 EEG 达到最先进水平,或量化其收益。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 表征具有可利用的层次结构,曲率学习与嵌入约束可能有助于改善表征与优化稳定性;可复用的是优化器和缩放机制,EEG 编码器及任务目标则需适配。低信噪比、跨被试差异、通道配置变化和小数据条件可能使学到的曲率不稳定,或使层次结构假设失效。一个可检验的小实验是在固定 EEG 编码器和同一划分下,对比固定曲率、可学习曲率及加入缩放约束的配置,核对分类指标、训练稳定性与运行时间。其他已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 Riemannian AdamW、双曲嵌入缩放与曲率感知优化如何共同改善训练稳定性,尤其是作者报告的 EEG 分类收益是否在明确的被试划分与对照协议下成立。

来源:OpenReview · EEG · openreview.net