HyperFormer：通过超图 Transformer 学习表达能力强的稀疏特征表征

基于摘要分析。本文研究信息检索中高维稀疏特征的表征学习问题，重点关注训练数据中出现频率较低的长尾特征值。作者提出 Hypergraph Transformer（HyperFormer），将不同实例的稀疏特征组织为超图，以利用实例间和特征间的关联改善表征。 核心机制是将每个数据实例作为节点、每个不同的特征值作为一条超边，再通过 HyperFormer 在构建的超图上传递消息。其方法特点在于：不依赖额外提供的实例关系先验，而从特征值建立关系结构，使表征学习不局限于单个实例内部。具体注意力计算、损失函数、训练流程及推理时如何处理新实例，摘要均未说明。 作者报告，该方法能够有效改善稀疏特征表征学习，但材料未提供数据集、任务指标、对照基线或提升幅度，无法据此判断收益大小及适用边界。实验协议、消融及统计信息尚未验证；复现还需核对超图构建规则、低频特征的处理方式及计算开销。 平台推测（待验证）：若 EEG 任务已有可重复定义的离散事件或稀疏特征值，可假设共享特征值的试次能够通过超图消息传递获得额外信息。这一路径依赖稳定的特征编码及足够的特征共现，不能直接等同于对连续 EEG 波形的建模。可复用的是“实例—特征值”超图与消息传递思路，需改造的是 EEG 特征提取、离散化及新被试接入方式；低信噪比、通道差异和跨被试分布变化可能产生错误连接，小数据也可能使长尾关联不稳定。可检验的小实验是在固定 Cross-subject 划分下，仅用训练数据确定编码规则，对比相同特征输入下有无超图消息传递的结果，并明确测试实例的接入协议。已有 EEG 相关工作尚未检索确认。