用于 DAG 表征学习的 Neural SpaceTimes
Neural Spacetimes for DAG Representation Learning
基于摘要分析。本文研究加权有向无环图(DAG)的表征学习,提出可训练的 Neural SpaceTimes(NSTs),将节点表示为时空流形中的事件,以空间几何编码边权、时间偏序编码边方向。这里的“因果结构”指输入 DAG 中给定的方向与偏序关系,并不意味着从观测数据中发现或验证因果关系。 核心机制是结合空间准度量与时间偏序的乘积流形。NSTs 包含端到端训练的三个神经网络:嵌入网络优化节点在流形中的位置,另两个网络分别学习 neural (quasi-)metric 与 neural partial order。后两者借鉴分形几何与深度学习交叉领域的思路,使表征空间的几何随数据调整,而非固定采用 Minkowski space 或 De Sitter space。具体损失、优化过程及推理开销尚未验证。 作者给出的理论保证是:任意含 k 个节点的 DAG 均可嵌入 NST,在精确保留因果结构的同时,嵌入失真为 1+O(log(k));定义 NST 的总参数量关于 k 为次立方规模,关于 DAG 宽度为线性规模。对于 Hasse 图可平面嵌入的 DAG,摘要进一步给出 O(log(k)+2) 个空间维度与 2 个时间维度的结果,具体定理条件仍需核对全文。 作者报告,在合成加权 DAG 与真实网络嵌入实验中,NSTs 的嵌入失真低于采用固定时空几何的对照。摘要未提供数据集名称、具体失真数值或划分方式,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务已具有可信的加权 DAG,例如由时间顺序约束构建的事件关系图,可尝试复用 NST 的节点嵌入与偏序模块;需要改造的是 EEG 到图的构建及边权定义,而不是直接把 EEG 连接矩阵视为因果 DAG。低信噪比、跨被试差异、通道变化与小样本可能导致图结构不稳定,存在环的连接图也不能直接满足方法前提。可先在固定节点与偏序、逐步扰动边权的合成 DAG 上,对比 NST 与固定时空几何的失真和偏序保持情况,再评估 EEG 图上的可行性;这不能替代 BCI 任务验证。已有 EEG 相关工作尚未检索确认。
值得关注其将加权 DAG 的边权与方向分别交由可学习几何建模的机制,以及保持因果偏序的通用嵌入保证;其相对固定时空几何的实验优势仍需结合全文协议核对。
来源:OpenReview · Representation learning · openreview.net