HOT：基于高效 Transformer 的高阶动态图表示学习

基于摘要分析。该研究面向动态图表示学习中的动态链接预测：利用图更新历史，预测一对节点是否会建立连接。HOT 在将单次图更新视为 token 的 Transformer 路线中引入高阶图结构，并通过层次化注意力缓解结构信息带来的内存压力。 核心机制是把 k 跳邻居及包含目标节点对的更一般子图编码进 Transformer 的注意力矩阵，以利用单个更新事件之外的结构上下文。作者指出，这类编码有助于提高预测准确率，但会增加内存开销，因此采用在注意力矩阵上施加层次结构的方案，寻求预测性能与内存占用之间的折中。具体结构编码、层次划分、损失函数及训练和推理细节尚未验证。 作者报告，在 MOOC 数据集的动态链接预测任务上，HOT 相比 DyGFormer、TGN、GraphMixer 的 accuracy 分别高 9%、7% 和 15%。摘要未明确这些差异是相对百分比还是百分点，也未给出数据划分与详细评估协议，不能据此跨协议比较。内存降幅、运行效率、消融及统计信息尚未验证。作者还提出该设计可扩展至其他动态图表示学习任务，但摘要未提供相应验证结果。 平台推测（待验证）：若 EEG 被表示为随时间更新的通道连接图，HOT 的高阶结构编码可能用于建模连接变化的上下文；这依赖可靠的动态图构建与链接预测监督，并不等同于已验证的 BCI 解码收益。可复用的是结构编码与层次化注意力思路，需改造的是 EEG 节点、边事件及预测目标的定义。低信噪比、连接估计误差、跨被试或通道配置差异，以及小数据规模，都可能使高阶结构放大伪连接。一个可证伪的小实验是在固定 EEG 图构建规则和被试内时间划分下，对比加入与不加入高阶编码的模型，联合检查链接预测指标与峰值内存，并核对时间窗口是否重叠。已有 EEG 相关工作尚未检索确认。