跳到正文

算法、任务与模态

Transformer 最新动态

Transformer 研究索引；按可核对的标签归档，不以热度评价质量。

65 条精选近 30 天 37 条共收录 79 条

更新

精选归档 · 第 4 页

10月28日周六第 61–65 条
  1. OpenReview · Representation learning73

    自监督跨表表征学习的规模扩展实验

    基于摘要分析。该研究关注深度表格表征学习的规模扩展潜力，提出面向单表与跨表学习的 Transformer 架构，并通过自监督掩码单元格恢复进行预训练，考察模型规模与预训练设置对表征质量的影响。 核心机制是使用表特定 tokenizer 处理不同表格，并共享 Transformer 主干；训练以缺失值插补为任务，通过恢复被掩码的单元格学习表征。摘要未说明 tokenizer 如何编码列类型、表结构与单元格，也未给出掩码策略或具体损失形式。 作者报告，规模实验覆盖约 10^4 至 10^7 参数的模型，预训练数据由 76 个不同数据集组成，共包含 135 M 个训练 token。评估分别考察单表与跨表预训练设置，在整理的基准数据集上使用线性探测，并与常规基线比较。摘要未列出基准名称、划分方式、基线名称或性能指标，因此尚不能判断规模收益、跨表迁移效果及其统计可靠性；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，将 EEG 的结构化试次特征视为表格，用数据集特定 tokenizer 接入共享主干，以应对不同特征布局下的表征复用问题。可复用部分是共享主干与掩码恢复目标；需改造特征编码、通道与频带对应关系，并明确跨被试、跨会话的划分。原方法依赖表格单元格结构与较大规模预训练数据，不能直接等同于原始 EEG 时序建模；低信噪比、通道差异及小数据可能使恢复目标偏向噪声或数据集特征。可检验的小实验是在固定 Cross-subject 划分及相同训练预算下，对比单数据集与跨数据集预训练后的冻结表征线性探测，且预训练排除测试被试。相关 EEG 工作尚未检索确认。

    阅读价值：该研究以表特定 tokenizer 与共享 Transformer 主干探索跨表自监督预训练及规模效应，值得核对其线性探测对照和跨表泛化协议，但摘要未提供性能结果。

9月23日周六
  1. OpenReview · Representation learning76

    用于鲁棒表征学习的上下文视觉 Transformer

    基于摘要分析。研究针对不同群组间潜在因素变化导致的图像分布偏移，提出 Contextual Vision Transformers（ContextViT），通过群组上下文条件化图像表征，并在推理时适应新的测试分布。 核心机制借鉴 in-context learning：将与输入图像属于同一群组的图像信息映射为额外的 context token，再将其附加到输入图像 tokens 中，使表征随群组上下文调整。作者另引入 context inference network，从某一群组的一批样本即时预测 context token。该机制依赖可用的群组归属及同组样本；摘要未说明群组的具体定义、上下文聚合方式、训练损失或测试时是否更新模型参数，因此不能将其直接等同于参数更新式测试时自适应。 作者报告，在监督微调设置下，为预训练 ViTs 加入上下文条件化机制，在 iWildCam 和 FMoW 上持续改善分布外泛化；在自监督表征学习设置下，ContextViT 在 Camelyon17 病理图像及 JUMP-CP 显微图像基准上，比对应 ViT 获得更稳定的分布偏移下图像表征。摘要未给出指标数值、数据划分或效应大小，实验协议、消融及统计信息尚未验证。复现时需核对群组构造、上下文批次采样、预训练条件与基线配置。 平台推测（待验证）：迁移假设是，EEG 的被试或会话可作为群组，上下文条件化可能帮助处理跨被试或跨会话分布变化。可复用 context token 与上下文推断思路，但需将图像 token 编码改为 EEG 时序或时空编码，并明确测试群组可用样本及监督条件。低信噪比、小批次、通道配置差异，以及同组任务类别比例变化，都可能使上下文混入噪声或任务内容。一个可检验的小实验是在固定 Cross-subject 划分下，以同一 EEG 编码器比较无上下文与同组上下文条件化，并加入打乱群组的对照；严格固定测试上下文采样规则，检验增益是否来自有效群组信息。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其由同组样本推断 context token 的机制及测试时分组协议：这为利用群组上下文处理分布偏移提供了具体方法，但其对 EEG 跨被试或跨会话表征的价值尚未验证。

9月22日周五
  1. OpenReview · Representation learning74

    NAR-Former V2：重新审视用于通用神经网络表示学习的 Transformer

    基于摘要分析。该研究关注神经网络架构本身的表示学习，目标是在不实际训练或部署候选网络的情况下预测其属性，辅助网络设计与部署。作者提出 NAR-Former V2，以修改后的 Transformer 同时表示单元结构网络与完整网络。 方法先将网络视为图，通过 tokenizer 将其编码为序列，再将 GNN 的归纳表示学习能力引入 Transformer，以改善对未见架构的泛化；此外还提出若干面向图结构表示的修改。摘要未说明具体编码规则、归纳机制的实现、损失函数及这些修改的组成，不能据此判断其如何保留拓扑关系或处理不同规模的网络。 结果方面，作者报告：在 NNLQP 数据集的完整网络编码与延迟预测任务上，该方法明显优于 GNN 方法 NNLP；在 NASBench101 与 NASBench201 的单元结构网络准确率预测任务上，与其他先进方法取得高度可比的表现。摘要未提供具体分数、指标、划分或目标硬件条件，实验协议、消融及统计信息尚未验证。作者提供了代码链接，但代码可运行性与复现条件尚未核验。 平台推测（待验证）：迁移假设是利用架构表示预测器降低 EEG 候选网络的逐一训练与部署评估成本，而非直接学习 EEG 信号。可复用部分是架构图编码与属性预测框架；需核对 tokenizer 对 EEG 常用算子的支持，并收集任务特定的架构—性能或硬件延迟标签。原方法依赖架构图及其目标属性监督，所需数据规模尚未验证。EEG 的低信噪比、被试和通道差异，以及小样本评估波动，可能使准确率标签不稳定，削弱架构层面的泛化。一个可证伪的小实验是在固定 EEG 数据划分与训练预算下，为一组候选架构采集性能标签，按架构留出测试，与 GNN 预测器比较误差及排序一致性；这属于迁移验证建议，不是论文已完成的实验。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其将 GNN 的归纳表示学习能力融入 Transformer、统一处理单元结构与完整网络的机制，但用于 EEG 网络设计的价值尚未验证。

1月1日周日
  1. OpenReview · State space models76

    用于语音识别的多头状态空间模型

    基于摘要分析。该研究针对语音识别中的序列建模，提出带特殊门控机制的多头状态空间模型 MH-SSM，使并行头学习局部与全局时间动态；同时提出以 MH-SSM 层增强 transformer 模块的 Stateformer。 机制与对照：MH-SSM 被设计为 transformer 编码器中多头注意力的可直接替换模块。作者报告，在 LibriSpeech 语音识别任务上，该架构显著优于 transformer transducer，但摘要未提供这一替换方案的具体分数及显著性检验细节。Stateformer 则采用增强 transformer 模块的方式，不能与完全替换注意力的方案混为一谈。门控形式、状态空间参数化、训练目标及推理实现尚未验证。 结果：作者报告，Stateformer 在不使用外部语言模型的条件下，开发集 word error rate 为 1.76%/4.37%，测试集为 1.91%/4.36%，并称其达到 LibriSpeech 任务的当时最优表现。摘要未明确两组数值对应的子集名称，因此不补写；训练数据配置、对照设置、消融及统计信息尚未验证，也不能据此推断其计算效率优势。 平台推测（待验证）：假设局部与全局时间动态的并行建模能缓解 EEG 长序列中短时事件与较长时间依赖难以兼顾的问题，可尝试复用 MH-SSM 序列模块，但需改造 EEG 通道输入与任务输出。原任务依赖语音序列及语音识别监督，其收益对训练规模的依赖尚不清楚；低信噪比、通道差异、跨被试分布变化及小数据可能使门控学到噪声或被试特异模式。一个可证伪的小实验是在同一 EEG 任务、固定跨被试划分和训练预算下，仅将基线编码器的多头注意力替换为 MH-SSM，比较预先指定的任务指标与跨被试稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：MH-SSM 通过带门控的并行状态空间头建模局部与全局时间动态，值得核对其替换及增强注意力模块的实现与对照，但语音识别收益能否迁移至 EEG 尚未验证。

1月1日周六
  1. OpenReview · EEG73

    EEGformer：面向低通道数可穿戴连续监测设备的基于 Transformer 的原始 EEG 癫痫检测

    基于摘要分析。该研究针对长期连续癫痫监测对低误报、佩戴舒适性和低功耗的要求，提出紧凑的 Transformer 模型 EEGformer，直接使用四个颞区通道的原始 EEG 进行癫痫发作检测，并在微控制器（MCU）上验证实时推理的可行性。 核心思路是利用 Transformer 捕捉时间序列中的长程依赖，减少对针对特定数据设计的手工特征的依赖。摘要未提供输入窗口、具体模型结构、损失函数、训练策略或预处理细节，因此不能据此认定信号完全未经预处理。 作者报告，在所检查的八名患者的癫痫发作事件中，模型检出率为 73%；仅考虑其中六名患者时，事件检出率为 100%，不能将这一子集结果推广到全部患者。作者报告平均发作起始检测延迟为 15.2 秒，误报率为 0.8 FP/h；多数测试获得 100% 特异性，但 40 次测试中有 5 次异常表现，作者将其主要归因于 EEG 伪迹。事件检出率、特异性与每小时误报率反映不同层面的表现，不应相互替代。被试内或跨被试协议、数据划分以及各指标的统计口径尚未验证。 作者以 CHB-MIT Scalp EEG 数据集为参照，与针对目标数据集设计手工特征的先进分类器比较，报告准确性结果接近、发作起始检测延迟降低超过 20%；与两种经优化的卷积神经网络方法比较，作者报告在全部准确性指标上更优。具体基线、指标数值、消融及统计信息尚未验证。 部署方面，作者报告模型在 Ambiq Apollo4 MCU、96 MHz 工作频率下，单次推理耗时 405 毫秒、能耗 1.79 毫焦耳。这支持其嵌入式推理可行性，但不等于已验证整机长期续航或临床连续监测安全性。复现需进一步核对通道选择、窗口与报警规则、患者级划分、伪迹处理，以及推理数值精度和资源占用；代码与权重可用性尚未验证。

    阅读价值：值得阅读的具体原因是作者同时报告了四通道原始 EEG 癫痫发作检测表现与 MCU 实测时延、能耗，可用于核对低功耗连续监测中检测灵敏度、误报和部署成本的权衡，但临床适用性尚未验证。