跳到正文
OpenReview · State space models· Atsushi Suzuki; Atsushi Nitanda; Taiji Suzuki; jing wang; Feng Tian; Kenji Yamanishi·· 2023-04-25精选AI 评分80

度量空间中图嵌入的紧致、快速收敛泛化误差界

Tight and fast generalization error bound of graph embedding in metric space

AI 导读

本文研究非欧度量空间中图嵌入的泛化误差,针对既有理论上界难以解释实际训练规模下有效表现的问题,提出基于局部 Rademacher 复杂度的新上界。基于摘要分析,未取得论文全文。 原研究对象是将图顶点映射到度量空间,使顶点表示之间的距离反映图结构;其中,双曲空间适合表示层级树状结构。作者将模型视为“表示对之间距离”的函数集合,通过评估其局部 Rademacher 复杂度分析泛化能力,而非提出 EEG 解码模型或状态空间模型。 作者报告,新上界对度量空间几何半径 R 呈多项式依赖,并在满足相应理论条件时最快可达到 O(1/S),其中 S 为训练数据量;摘要所对照的既有上界对 R 可呈指数依赖,最快收敛率为 O(1/√S)。这些是理论误差界及速率比较,不是实测准确率提升;适用的损失、采样与分布假设、常数项和达到最快速率的条件尚未验证。作者还报告,示例情形的具体计算表明,非欧图嵌入可能以比既有理论所暗示更少的训练数据优于欧氏图嵌入,不能据此推断其对所有图结构均占优。 该工作的直接价值是改善对非欧图嵌入样本复杂度的理论理解。摘要未提供 EEG/BCI 数据、信号建图规则或解码验证,因此不将该理论结果视为 BCI 有效性证据,也不据此提出具体迁移实验。定理适用条件、示例图结构及理论界与实际学习表现的对应关系需查阅全文;实验协议、消融及统计信息尚未验证。

阅读价值

值得关注其以局部 Rademacher 复杂度收紧非欧图嵌入泛化误差界的理论路径,但界成立的条件及其对实际数据规模的解释仍需核对全文。

来源:OpenReview · State space models · openreview.net