去中心化注意力难以建模中心化信号：重新思考用于医学时间序列的 Transformer

基于摘要分析。本文研究 EEG、ECG 等医学时间序列中的时间依赖与通道依赖建模，提出 CoTAR（Core Token Aggregation-Redistribution），以基于 MLP 的中心化信息聚合与再分发模块替代去中心化注意力。作者将现有 Transformer 的通道依赖建模困难归因于注意力结构与医学信号全局同步、统一波形模式之间的不匹配；这一解释属于作者提出的机制假设，不能据摘要认定为普遍成立的信号性质。 CoTAR 引入一个全局核心 token，作为其他 token 交互的代理，先集中聚合信息，再向各 token 再分发，避免所有 token 直接两两交互。作者称该设计将计算复杂度由二次降为线性。摘要未说明 token 对应通道、时间片还是其他表示，也未给出聚合与再分发的具体运算、训练目标及其在完整模型中的替换位置，这些细节尚未验证。 作者报告在五个 benchmark 上获得效果与效率优势，其中 APAVA 上的提升最高为 11.6%；摘要未明确该数字对应的指标、相对提升或百分点，也未交代数据划分与被试内、跨被试或跨会话协议。作者另报告，相比此前最先进方法，内存占用仅为其 33%，推理时间为其 20%；对应任务、基线、硬件、输入规模和测量条件尚未验证，不能据此推定所有 EEG 场景均有同等收益。 该方法与 EEG 的直接关联在于多通道依赖建模，但医学时间序列分类收益不等同于 BCI 解码有效性。需核对核心 token 是否保留局部通道差异、对噪声通道及不同通道配置的敏感性，以及性能收益是否来自该模块本身。来源提供了代码与训练脚本链接，但实现与论文的一致性、实验协议、消融及统计信息尚未验证。