跳到正文
OpenReview · Representation learning· Ruijie Wang; Jingyuan Huang; Yutong Zhang; Jinyang Li; Yufeng Wang; Wanyu Zhao; Shengzhong Liu; Charith Mendis; Tarek F. Abdelzaher·· 2024-01-01精选AI 评分75

TGOnline:通过自适应在线元学习增强时序图学习

TGOnline: Enhancing Temporal Graph Learning with Adaptive Online Meta-Learning

AI 导读

基于摘要分析。本文研究时序图在周期性收集新边后,如何高效更新表示模型并维持部署期间的预测性能,提出自适应在线元学习框架 TGOnline。其主要对象是连接关系随时间变化的图,而非 EEG 或 BCI;核心思路是在吸收新数据时利用既有模型参数中的知识,减少完整重训练的开销,并应对仅微调可能出现的灾难性遗忘。 机制上,TGOnline 在多个数据收集周期上元训练全局参数,以提升时间泛化能力,并通过优化目标确定新参数对全局参数与新数据的依赖。摘要未给出具体目标函数或参数更新形式。为降低在线更新成本,框架还采用边约简机制,跳过不提供额外信息的新边,并通过节点去重避免新数据训练批次中的重复计算。 作者报告,在四个真实世界时序图上的在线表示学习实验中,TGOnline 优于 18 个基线;相较常用重训练策略,预测表现更好且实现约 30 倍加速。摘要未列出数据集名称、预测任务、指标、时间划分、硬件与计时范围,因此这些结果仅能在作者所述实验背景下理解,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将 EEG 表示为随时间更新的通道或脑区连接图,跨周期元训练与在线适应可能对应跨会话连接模式漂移这一瓶颈。该假设依赖可稳定构建的时序边,以及与原方法兼容的训练目标;可考虑复用参数适应框架,但需改造图构建与边信息量判定。低信噪比、通道变化及小样本可能使真实变化与噪声难以区分,边约简也可能滤除短暂但有判别力的连接。一个可证伪的小实验是:在固定 EEG 图构建与预测任务下,按会话时间顺序比较重训练、微调和 TGOnline 式适应,同时记录预测指标、更新耗时,并消融边约简。已有相关 EEG 工作尚未检索确认。

阅读价值

值得核对其跨数据收集周期的元训练与在线参数适应机制,以及边约简、节点去重带来的效率收益,但摘要不足以判断约 30 倍加速的完整评估条件或其对 EEG 的适用性。

来源:OpenReview · Representation learning · openreview.net