跳到正文

算法、任务与模态

Transformer 最新动态

Transformer 研究索引；按可核对的标签归档，不以热度评价质量。

143 条精选近 30 天 56 条共收录 193 条

更新

精选归档 · 第 8 页

1月1日周六第 141–143 条
  1. OpenReview · EEG73

    EEGformer：面向低通道数可穿戴连续监测设备的基于 Transformer 的原始 EEG 癫痫检测

    基于摘要分析。该研究针对长期连续癫痫监测对低误报、佩戴舒适性和低功耗的要求，提出紧凑的 Transformer 模型 EEGformer，直接使用四个颞区通道的原始 EEG 进行癫痫发作检测，并在微控制器（MCU）上验证实时推理的可行性。 核心思路是利用 Transformer 捕捉时间序列中的长程依赖，减少对针对特定数据设计的手工特征的依赖。摘要未提供输入窗口、具体模型结构、损失函数、训练策略或预处理细节，因此不能据此认定信号完全未经预处理。 作者报告，在所检查的八名患者的癫痫发作事件中，模型检出率为 73%；仅考虑其中六名患者时，事件检出率为 100%，不能将这一子集结果推广到全部患者。作者报告平均发作起始检测延迟为 15.2 秒，误报率为 0.8 FP/h；多数测试获得 100% 特异性，但 40 次测试中有 5 次异常表现，作者将其主要归因于 EEG 伪迹。事件检出率、特异性与每小时误报率反映不同层面的表现，不应相互替代。被试内或跨被试协议、数据划分以及各指标的统计口径尚未验证。 作者以 CHB-MIT Scalp EEG 数据集为参照，与针对目标数据集设计手工特征的先进分类器比较，报告准确性结果接近、发作起始检测延迟降低超过 20%；与两种经优化的卷积神经网络方法比较，作者报告在全部准确性指标上更优。具体基线、指标数值、消融及统计信息尚未验证。 部署方面，作者报告模型在 Ambiq Apollo4 MCU、96 MHz 工作频率下，单次推理耗时 405 毫秒、能耗 1.79 毫焦耳。这支持其嵌入式推理可行性，但不等于已验证整机长期续航或临床连续监测安全性。复现需进一步核对通道选择、窗口与报警规则、患者级划分、伪迹处理，以及推理数值精度和资源占用；代码与权重可用性尚未验证。

    阅读价值：值得阅读的具体原因是作者同时报告了四通道原始 EEG 癫痫发作检测表现与 MCU 实测时延、能耗，可用于核对低功耗连续监测中检测灵敏度、误报和部署成本的权衡，但临床适用性尚未验证。

  2. OpenReview · Representation learning78

    通过同步动量分组进行无监督视觉表征学习

    基于摘要分析。本文研究无监督视觉表征学习，提出 SMoG（Synchronous Momentum Grouping），通过组级对比学习结合实例级对比与聚类方法的优势，旨在减少假负样本并缓解聚类监督信号的滞后。 核心机制是保留对比学习框架，但将对比单位从单个实例替换为组；动量分组机制使特征分组与表征学习同步进行。作者认为，实例级判别过于细粒度，可能把语义相近样本当作负样本，而聚类方法的监督信号可能滞后于表征更新。摘要未提供分组规则、动量更新公式、损失形式或训练细节，尚不能确认其具体实现及适用条件。 作者报告，SMoG 在 CNN 和 Transformer 骨干上均有效，优于当时的无监督表征学习方法；在 ImageNet 线性评估中，其结果超过常规监督学习，且表征可迁移至下游任务。摘要未给出具体数值、骨干配置、数据划分、对照基线或下游任务名称，实验协议、消融及统计信息尚未验证，不能据此判断各项比较的公平性或优势幅度。 平台推测（待验证）：若 EEG 样本存在可稳定识别的潜在状态组，组级对比可能减少语义相近片段被视为负样本的问题，同步分组也可能缓解训练中表征变化导致的监督滞后。可考虑复用组级对比和动量分组机制，但需改造 EEG 编码器、信号增强与分组策略；原方法的图像增强、样本规模及潜在分组结构是否适用于 EEG 尚不明确。低信噪比、通道差异和跨被试偏移可能使分组主要捕获伪迹或被试身份，小数据也可能导致分组不稳定。 一个可检验的小实验是在固定 EEG 编码器、增强、训练预算和 Cross-subject 划分下，对比实例级对比与同步组级对比，冻结编码器进行线性评估，同时检查分组与任务类别、被试身份的关联。该实验仅用于检验迁移假设，不代表已有 BCI 效果；相关 EEG 工作尚未检索确认。

    阅读价值：SMoG 将对比单位从实例改为组，并同步更新分组与表征，为分析假负样本和聚类监督滞后提供了具体机制，但其比较优势与 EEG 迁移价值尚需验证。

  3. OpenReview · State space models77

    使用状态空间 Transformer 的高效电影场景检测

    基于摘要分析。本文研究电影场景检测：场景理解需要跨越较长电影片段整合线索，而多数视频识别模型侧重短时分析。作者提出可端到端训练的 State-Space Transformer 模型 TranS4mer，通过结合局部自注意力与长程状态空间运算，建模电影中的短程和长程依赖。 核心模块 S4A 结合 structured state-space sequence（S4）与自注意力（A）。输入是已划分为电影镜头的帧序列；模块先用自注意力捕获镜头内短程依赖，再用状态空间运算聚合镜头间长程线索。TranS4mer 由多个 S4A 模块堆叠构成，具体堆叠数量、特征提取方式、损失函数及训练配置尚未验证。该设计的关键在于利用镜头这一层级结构，分别处理局部关系与跨镜头上下文。 作者报告，在 MovieNet、BBC 和 OVSD 三个电影场景检测数据集上，TranS4mer 优于此前方法；相较标准 Transformer，速度为其 2 倍，GPU 显存需求约为其三分之一。摘要未给出检测指标、划分协议、具体对照配置及效率测量条件，因此这些结果仅适用于作者所述电影场景检测评估，实验协议、消融及统计信息尚未验证。作者表示将发布代码和模型，材料不能确认其已公开。 平台推测（待验证）：可检验的迁移假设是，将局部交互与长程状态聚合分离，可能缓解长时 EEG 建模的计算负担。可复用的是 S4A 的分工机制，但电影镜头结构不能直接等同于 EEG 时间窗；需要改造信号编码、时间分段与任务监督。摘要也不足以判断原方法的数据规模要求。低信噪比、跨被试差异、通道布局变化及小数据训练均可能使局部注意力学习到噪声，或使长程聚合混合不同生理状态。一个小规模可证伪实验是在同一 EEG 数据集、固定跨被试划分及相同输入长度和训练预算下，对比局部注意力加 S4、纯注意力和纯 S4，核对任务指标与速度、显存，并测试时间窗长度变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 TranS4mer 将镜头内自注意力与镜头间 S4 状态空间聚合分工结合的长序列建模机制；其效率优势由作者报告，对 EEG 的迁移价值尚未验证。