跳到正文

算法、任务与模态

Transformer 最新动态

Transformer 研究索引；按可核对的标签归档，不以热度评价质量。

458 条精选近 30 天 119 条共收录 650 条

更新

精选归档 · 第 23 页

1月1日周日第 441–458 条
  1. OpenReview · State space models76

    AutoShot：短视频数据集与最先进的镜头边界检测

    本研究面向短视频镜头边界检测（SBD），发布 SHOT 数据集，并提出通过神经架构搜索优化检测模型的 AutoShot。基于摘要分析，未取得论文全文；主要贡献是短视频标注资源与检测架构设计，而非 EEG/BCI 方法。 数据与方法：SHOT 包含 853 个完整短视频和 11,606 个镜头标注，其中 200 个测试视频包含 2,716 个高质量镜头边界标注。摘要中的“镜头标注”与“镜头边界标注”应分别保留，不能视为相同统计单位。AutoShot 在涵盖多种 3D ConvNets 和 Transformers 的搜索空间中进行神经架构搜索；具体搜索策略、最终架构、损失函数及训练配置尚未验证。 结果：作者报告，在 SHOT 上进行架构设计并评估时，AutoShot 的 F1 优于此前方法，相比 TransNetV2 的提升原文记为 4.2%。作者还报告，将该架构直接评估于 ClipShots、BBC 和 RAI 时，F1 相对此前最先进方法的提升分别记为 1.1%、0.9% 和 1.2%。摘要未明确这些增益是相对百分比还是百分点，不宜自行换算；也未提供绝对 F1、各外部数据集对应基线及完整训练与测试协议，因此不能将这些结果直接作横向比较。 复现与局限：摘要提供了 SHOT 数据集及代码的仓库地址。复现前需核对标注定义、训练与验证划分、搜索预算、模型选择规则、外部数据集是否涉及再训练或微调，以及边界匹配和 F1 计算方式。实验协议、消融及统计信息尚未验证。材料没有建立视频镜头切换与神经信号任务之间的具体机制对应，故不据此提出 EEG/BCI 迁移效果或复现实验建议。

    阅读价值：值得关注其面向短视频的 SHOT 数据集、镜头边界检测架构搜索及跨数据集评估，但摘要不足以核对性能增益口径与泛化协议，也不构成 EEG/BCI 有效性的证据。

  2. OpenReview · State space models72

    基于属性判别潜在空间的语言去毒

    基于摘要分析。该研究针对 Transformer Language Models（LMs）可能生成侮辱、威胁和粗俗文本，以及既有去毒方法引入额外语言模型或扰动所带来的内存、计算与时间开销，提出 Attribute-Discriminative Language Model（ADLM），以属性判别潜在空间控制非毒性文本生成。 核心机制是使用投影模块和属性判别器，将原始 Transformer LM 的潜在空间映射到能够按文本属性进行区分的潜在空间，再利用该空间控制生成。与摘要描述的依赖额外 LMs 或扰动的方法相比，其设计目标是在较小内存与计算开销下实现属性控制。摘要未说明投影位置、判别器结构、损失函数、属性监督来源，以及原始 LM 是否冻结，这些实现条件尚未验证。 作者报告，ADLM 在去毒语言生成与对话生成任务上的性能和效率均显著优于基线。但摘要未提供数据集、数据划分、基线名称、毒性与生成质量指标、具体数值或资源测量条件，因此尚不能判断效果与效率收益的幅度及适用范围；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其属性判别潜在空间可作为 EEG 表征解耦的跨领域假设，例如区分任务属性与被试属性，但语言生成中的毒性控制并不等于跨被试 EEG 解码有效。可考虑复用投影模块与属性判别机制，编码器、监督目标和解码接口则需改造；原方法所需标签、训练规模与数据结构尚未明确。EEG 的低信噪比、小样本和通道差异可能使属性分离不稳定，或同时削弱任务信息。一个可证伪的小实验是在固定 EEG 编码器与相同 Cross-subject 划分下，对照有无属性投影的任务性能和被试属性可预测性，检验其是否减少被试信息且不损害任务解码。相关 EEG 工作尚未检索确认。

    阅读价值：值得关注其通过投影模块与属性判别器实现生成属性控制的机制；作者报告 ADLM 在文本去毒与对话生成中的性能和效率优于基线，但具体评估协议与开销尚未验证。

  3. OpenReview · EEG73

    利用油画诱发的 EEG 与眼动信号进行客观抑郁检测

    基于摘要分析。研究面向抑郁的客观识别，以正性和负性油画诱发情绪，采集 EEG 与眼动信号，并使用 Transformer 开展 emotion recognition（情绪识别）和 depression detection（抑郁检测）。其主要贡献是探索情绪诱发条件下神经信号与行为信号的联合识别价值，而非验证可直接用于临床诊断的标准。 研究纳入来自三个中心的 48 名抑郁患者（DPs）和 40 名健康对照（HCs），使用 40 幅经挑选的油画，其中正性与负性各 20 幅。摘要未说明 EEG 与眼动的特征提取、融合方式、Transformer 结构、训练损失及刺激呈现时序，这些实现细节尚未验证。 作者报告，Transformer 在情绪识别和抑郁检测任务中的最佳 Accuracy 分别为 89.21% 和 92.19%；摘要未明确这两个最佳结果各自对应的数据划分、模态配置与对照基线，因此不能直接解释为跨被试或跨中心泛化性能。作者还报告，在 subject-dependent 和 subject-independent 情绪识别实验中，健康对照组的 Accuracy 均高于抑郁患者组，但未给出具体差值。 作者报告，两组存在神经模式差异，并在抑郁患者中观察到一致的神经模式不对称性；其具体定义、定位及统计证据尚未验证。在抑郁检测中，作者报告使用单幅油画取得最佳 Accuracy，且负性油画的 Accuracy 高于正性油画；摘要未提供具体数值，也未说明单幅刺激的选择与评估流程，需结合正文核对。 复现与结果解释的重点包括：抑郁诊断及纳入标准、中心间数据分布、按被试和试次划分的方式、预处理与伪迹控制、单模态与融合对照，以及刺激选择是否独立于最终评估。实验协议、消融及统计信息尚未验证。当前证据支持进一步考察这一识别方案，尚不足以确认其临床诊断效用。

    阅读价值：值得核对油画情绪诱发下 EEG 与眼动用于抑郁识别的多模态证据，尤其是单幅及负性刺激的效果，但检测准确率对应的划分协议与临床泛化能力尚未验证。

  4. OpenReview · State space models70

    用于语音情绪识别的帧级情绪状态对齐方法

    基于摘要分析。本文研究语音情绪识别（SER）中话语级标签与局部音频帧情绪不一致的问题，提出帧级情绪状态对齐方法，通过聚类生成伪情绪标签并用于 HuBERT 预训练，再以注意力聚合完成 SER。 方法分为三个阶段：首先采用任务自适应预训练（TAPT）方法微调 HuBERT，获得 SER 系统，并从其 transformer 层提取嵌入，经聚类形成帧级伪情绪标签；随后利用这些伪标签预训练 HuBERT，使帧级输出携带相应情绪信息；最后在该模型顶部加入注意力层并微调，以侧重与话语级标签更一致的帧。其核心思路不是把同一个话语标签直接赋给所有帧，而是借助中间表征构建更细粒度的监督。聚类配置、伪标签与情绪类别的对应方式，以及具体训练目标尚未验证。 作者报告，在 IEMOCAP 上该方法优于所比较的 SOTA 方法，但摘要未提供具体指标、数值、数据划分或基线名称，不能据此确定优势幅度或跨说话人泛化能力。实验协议、消融及统计信息尚未验证；复现时应重点核对伪标签构建所用的数据范围，以及 TAPT、伪标签预训练与注意力层的独立贡献。 平台推测（待验证）：该机制可为具有试次级情绪标签的 EEG 时序学习提供一个假设，即通过局部表征聚类缓解试次标签与短时片段状态不一致的问题。可复用的是伪标签构建和加权聚合流程，需将语音编码器与音频帧改为适合 EEG 的编码器和时间窗。低信噪比、跨被试差异、通道配置及小样本可能使聚类主要反映伪迹或被试身份，而非情绪。一个可证伪的小实验是在固定跨被试划分下，对比试次标签训练、加入窗口伪标签训练及随机伪标签对照，检验收益是否来自有效的局部监督；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其通过聚类构造帧级情绪伪标签、再训练 HuBERT 的对齐机制，尤其是伪标签质量与注意力聚合各自的贡献；摘要中的性能优势尚需结合完整评估协议验证。

1月1日周六
  1. OpenReview · State space models72

    用于 Schema-Guided 对话状态跟踪的多任务 BERT 模型

    基于摘要分析。本文研究任务导向对话系统中的对话状态跟踪（DST），提出单一多任务 BERT 模型，联合处理 intent prediction（意图预测）、requested slot prediction（请求槽位预测）和 slot filling（槽位填充），并采用更精简的对话历史与服务 schema 编码，以改善性能和计算效率。 原问题是：利用不同服务的 schema 可支持对新领域的零样本泛化，但摘要所述既有方法通常依赖多个大规模 Transformer 模型及较长输入序列。本文的方法路径是将三个 DST 子任务纳入一个 BERT 模型，并减少对话历史和服务描述的编码开销。具体任务输出结构、参数共享方式、联合损失、编码格式及训练设置尚未验证。 作者报告，在 SGD 数据集上，该方法明显优于 SGP-DST 基线，与当时先进方法相比也表现良好，同时计算效率显著提高；摘要未提供具体指标、分数、数据划分或计算资源条件，因此无法量化性能增益，也不能确认对未见领域的具体效果。作者还报告进行了广泛消融，相关对照、实验协议及统计信息尚未验证。 本文主要对象是自然语言对话状态跟踪，并非神经信号建模；标题中的“state”指对话状态，不应据来源栏目将其解释为状态空间模型。材料没有建立服务 schema、多任务文本预测与 EEG/BCI 瓶颈之间的具体机制对应，因此暂不提出迁移或复现实验建议。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对单一多任务 BERT 与精简输入编码如何兼顾 schema-guided DST 的性能和计算效率，但摘要不足以判断具体收益及其对 EEG/BCI 的适用性。

  2. OpenReview · EEG73

    EEGformer：面向低通道数可穿戴连续监测设备的基于 Transformer 的原始 EEG 癫痫检测

    基于摘要分析。该研究针对长期连续癫痫监测对低误报、佩戴舒适性和低功耗的要求，提出紧凑的 Transformer 模型 EEGformer，直接使用四个颞区通道的原始 EEG 进行癫痫发作检测，并在微控制器（MCU）上验证实时推理的可行性。 核心思路是利用 Transformer 捕捉时间序列中的长程依赖，减少对针对特定数据设计的手工特征的依赖。摘要未提供输入窗口、具体模型结构、损失函数、训练策略或预处理细节，因此不能据此认定信号完全未经预处理。 作者报告，在所检查的八名患者的癫痫发作事件中，模型检出率为 73%；仅考虑其中六名患者时，事件检出率为 100%，不能将这一子集结果推广到全部患者。作者报告平均发作起始检测延迟为 15.2 秒，误报率为 0.8 FP/h；多数测试获得 100% 特异性，但 40 次测试中有 5 次异常表现，作者将其主要归因于 EEG 伪迹。事件检出率、特异性与每小时误报率反映不同层面的表现，不应相互替代。被试内或跨被试协议、数据划分以及各指标的统计口径尚未验证。 作者以 CHB-MIT Scalp EEG 数据集为参照，与针对目标数据集设计手工特征的先进分类器比较，报告准确性结果接近、发作起始检测延迟降低超过 20%；与两种经优化的卷积神经网络方法比较，作者报告在全部准确性指标上更优。具体基线、指标数值、消融及统计信息尚未验证。 部署方面，作者报告模型在 Ambiq Apollo4 MCU、96 MHz 工作频率下，单次推理耗时 405 毫秒、能耗 1.79 毫焦耳。这支持其嵌入式推理可行性，但不等于已验证整机长期续航或临床连续监测安全性。复现需进一步核对通道选择、窗口与报警规则、患者级划分、伪迹处理，以及推理数值精度和资源占用；代码与权重可用性尚未验证。

    阅读价值：值得阅读的具体原因是作者同时报告了四通道原始 EEG 癫痫发作检测表现与 MCU 实测时延、能耗，可用于核对低功耗连续监测中检测灵敏度、误报和部署成本的权衡，但临床适用性尚未验证。

  3. OpenReview · State space models74

    解码神经检索器的潜在空间以生成查询建议

    本研究针对神经检索中查询变化与潜在表示、检索结果之间关系难以解释的问题，学习一个 query decoder，将神经搜索引擎的潜在表示还原为可读查询，并用于生成查询改写数据和训练查询建议模型。基于摘要分析，未取得论文全文。 核心机制是从检索表示空间到查询文本的解码。作者报告，查询的潜在表示能够被解码为有意义的查询；沿潜在空间中的适当方向移动后，还能生成可检索到相关段落的查询。这使模型能够解释：为了检索某个段落，原本应当提出什么查询。摘要未说明潜在空间移动方向的确定方式、解码器结构、训练损失及监督构造，相关细节尚未验证。 作者使用 query decoder 为 MSMarco 生成大规模合成查询改写数据，并报告由此改善了检索性能；随后在这些数据上训练用于查询建议的伪相关反馈（PRF）T5 模型。作者报告，该模型优于查询改写与 PRF 信息检索基线，但摘要未提供具体指标、增益数值、数据划分或基线配置，实验协议、消融及统计信息尚未验证。 研究的主要对象是文本信息检索，而非 EEG 或 BCI。平台推测（待验证）：若 EEG 表征已有可靠的任务标签或文本语义对齐，可探索将潜在表示解码为可读任务描述，以辅助检查表征是否保留任务信息；可借鉴的是潜在表示解码思路，文本检索中的查询改写与 PRF 流程不能直接照搬。该假设依赖额外的信号—语义监督，需要改造输入表征及解码目标，并可能因低信噪比、跨被试差异、通道变化和小数据条件而失效。一个小规模检验是在固定 EEG 编码器上训练描述解码器，采用跨被试划分，比较真实表示、打乱表示及仅按类别频率生成描述的对照，检查解码是否携带可泛化的任务信息。已有 EEG 相关工作尚未检索确认，此迁移假设不构成已证实的 BCI 效果。

    阅读价值：值得关注的是将检索潜在表示解码为可读查询，并以此构造查询改写训练数据的机制；作者报告了检索与查询建议性能提升，但具体评估协议和增益尚未验证。

  4. OpenReview · State space models72

    用于 Schema-Guided Dialogue State Tracking 的多任务 BERT 模型

    基于摘要分析。该研究面向任务导向对话系统的 Dialogue State Tracking（DST），提出单一多任务 BERT 模型，联合完成意图预测、请求槽位预测和槽位填充，并通过精简编码对话历史与服务 schema 改善性能和计算效率。研究对象是对话状态跟踪，而非时序 state space model 或 EEG/BCI 解码。 核心机制是将三个相关 DST 任务纳入同一个 BERT 模型，并减少对话历史与服务 schema 的输入表示开销。作者指出，既有部分 schema 引导方法依赖多个大型 Transformer 模型和较长输入序列；本文以单模型和精简编码回应这一问题。摘要未说明任务输出结构、损失组合、编码规则及训练流程，这些细节尚未验证。 作者报告，在 SGD dataset 上，该方法明显优于基线 SGP-DST，与当时最先进方法相比表现良好，同时计算效率显著提高。摘要未提供具体指标、数值、数据划分或效率测量条件，因此不能量化性能差距，也不能据此确认零样本新域泛化的具体效果。作者报告进行了广泛消融，以分析模型成功的影响因素；消融设置、实验协议及统计信息尚未验证。 复现时应重点核对多任务训练的具体实现、schema 与对话历史的编码方式、SGD 的评估划分，以及性能和计算成本是否在一致条件下比较。材料没有给出该文本语义机制与 EEG 信号建模的具体对应关系，不能据此认定其具有 BCI 有效性；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是单一多任务 BERT 与精简输入编码如何兼顾 Schema-Guided Dialogue State Tracking 的预测性能和计算效率，但具体收益与泛化协议尚需全文核对。

  5. OpenReview · State space models76

    MotionCLIP：将人体动作生成映射到 CLIP 空间

    基于摘要分析。MotionCLIP 研究三维人体动作的语义表示与生成，通过将动作自编码器的潜在空间对齐到 CLIP 空间，使文本语义能够用于动作生成、编辑、插值与识别；研究对象是人体动作，而非 EEG 解码或 BCI。 核心机制是基于 Transformer 的动作自编码器：训练时重建动作，同时将动作潜在表示对齐到对应文本标签在 CLIP 空间中的位置；另以自监督方式，将动作与其渲染帧进行对齐，引入 CLIP 的视觉语义信息。作者认为，这种对齐可使语义相近的动作在潜在空间中更接近，并利用 CLIP 空间结构获得解耦的动作表示。摘要未提供具体损失形式、训练规模或推理细节。 作者报告，MotionCLIP 支持域外动作生成、解耦编辑和抽象语言描述，例如将“couch”解码为坐下动作，将“Spiderman”解码为类似荡蛛丝的动作。这些是摘要中的定性示例，不能替代生成质量、语义匹配或泛化能力的量化评估；数据集、划分、对照基线、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可检验的迁移假设是，将 EEG 编码表示对齐到固定的文本语义空间，可能帮助具有明确语义标签的任务共享表示，但原方法依赖动作序列、文本标签与可渲染视觉信息，不能直接照搬。可复用的是潜在空间对齐思路，需改造 EEG 编码器、标签描述与辅助监督；EEG 的低信噪比、跨被试差异、通道变化和小样本可能使语义对齐损害神经信号的判别性。小规模实验可在固定的 Cross-subject MI 划分下，对比同一 EEG 编码器有无文本语义对齐，并保持标签可用范围一致、报告相同指标，以检验该假设。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是其通过文本标签与渲染帧双重对齐，将 CLIP 的语义空间用于人体动作表示和生成的机制；作者展示的域外生成与编辑能力仍需结合全文协议核对，不能据此认定其对 EEG/BCI 有效。

  6. OpenReview · State space models75

    面向符号音乐建模的领域知识启发音乐嵌入空间与新型注意力机制

    基于摘要分析。该研究针对符号音乐建模中相对属性利用不足的问题，提出 Fundamental Music Embedding（FME）及 RIPO attention，使模型同时表示音高等绝对属性与音程等相对属性。主要研究对象是符号音乐，而非 EEG 或 BCI。 核心机制：FME 基于偏置调整的正弦编码，旨在高效表示绝对与相对属性，并显式保留平移不变性等音乐基本性质。RIPO attention 利用相对索引、音高与起音时刻嵌入，将音乐领域知识引入注意力计算；组合模型称为 RIPO transformer。摘要未提供编码公式、注意力计算细节、损失函数或训练配置。 结果：在旋律补全任务中，作者报告 RIPO transformer 优于 music transformer 与 linear transformer。在下游音乐生成任务中，作者报告未再观察到其所述的退化现象，且主观与客观评价均优于所比较的先进 transformer 模型。摘要未给出数据集、数据划分、指标数值、主观评价组织方式或退化现象的操作性定义，实验协议、消融及统计信息尚未验证；上述结论不能扩展为所有音乐生成场景中的保证。 平台推测（待验证）：可迁移的假设是，显式区分绝对位置与相对时间关系，可能帮助 EEG 模型表达时间结构。原方法依赖具有明确音高、起音时刻与音程语义的符号 token，EEG 连续波形并不具备同等属性，因此音乐嵌入不能直接照搬。可考虑复用相对关系编码思路，但需重定义 EEG 分段及时间关系，并单独论证不变性；低信噪比、跨被试时延差异与小数据可能削弱收益，错误的不变性还可能丢失任务相关信息。 一个可证伪的小实验是在固定 EEG 数据划分、模型容量和训练预算下，对比普通位置编码与仅引入相对时间编码的模型，检查原始样本和受控时间偏移后的任务表现是否一致改善。该实验仅检验迁移假设，不代表已有 EEG 效果；相关 EEG 工作尚未检索确认，代码与复现条件也尚未验证。

    阅读价值：值得阅读的具体原因是其将符号音乐的绝对属性与相对属性统一到具有明确不变性约束的嵌入空间，并据此构造注意力；作者报告的任务收益及该机制对 EEG 的适用性仍需分别核对。

  7. OpenReview · Representation learning78

    通过同步动量分组进行无监督视觉表征学习

    基于摘要分析。本文研究无监督视觉表征学习，提出 SMoG（Synchronous Momentum Grouping），通过组级对比学习结合实例级对比与聚类方法的优势，旨在减少假负样本并缓解聚类监督信号的滞后。 核心机制是保留对比学习框架，但将对比单位从单个实例替换为组；动量分组机制使特征分组与表征学习同步进行。作者认为，实例级判别过于细粒度，可能把语义相近样本当作负样本，而聚类方法的监督信号可能滞后于表征更新。摘要未提供分组规则、动量更新公式、损失形式或训练细节，尚不能确认其具体实现及适用条件。 作者报告，SMoG 在 CNN 和 Transformer 骨干上均有效，优于当时的无监督表征学习方法；在 ImageNet 线性评估中，其结果超过常规监督学习，且表征可迁移至下游任务。摘要未给出具体数值、骨干配置、数据划分、对照基线或下游任务名称，实验协议、消融及统计信息尚未验证，不能据此判断各项比较的公平性或优势幅度。 平台推测（待验证）：若 EEG 样本存在可稳定识别的潜在状态组，组级对比可能减少语义相近片段被视为负样本的问题，同步分组也可能缓解训练中表征变化导致的监督滞后。可考虑复用组级对比和动量分组机制，但需改造 EEG 编码器、信号增强与分组策略；原方法的图像增强、样本规模及潜在分组结构是否适用于 EEG 尚不明确。低信噪比、通道差异和跨被试偏移可能使分组主要捕获伪迹或被试身份，小数据也可能导致分组不稳定。 一个可检验的小实验是在固定 EEG 编码器、增强、训练预算和 Cross-subject 划分下，对比实例级对比与同步组级对比，冻结编码器进行线性评估，同时检查分组与任务类别、被试身份的关联。该实验仅用于检验迁移假设，不代表已有 BCI 效果；相关 EEG 工作尚未检索确认。

    阅读价值：SMoG 将对比单位从实例改为组，并同步更新分组与表征，为分析假负样本和聚类监督滞后提供了具体机制，但其比较优势与 EEG 迁移价值尚需验证。

  8. OpenReview · State space models77

    使用状态空间 Transformer 的高效电影场景检测

    基于摘要分析。本文研究电影场景检测：场景理解需要跨越较长电影片段整合线索，而多数视频识别模型侧重短时分析。作者提出可端到端训练的 State-Space Transformer 模型 TranS4mer，通过结合局部自注意力与长程状态空间运算，建模电影中的短程和长程依赖。 核心模块 S4A 结合 structured state-space sequence（S4）与自注意力（A）。输入是已划分为电影镜头的帧序列；模块先用自注意力捕获镜头内短程依赖，再用状态空间运算聚合镜头间长程线索。TranS4mer 由多个 S4A 模块堆叠构成，具体堆叠数量、特征提取方式、损失函数及训练配置尚未验证。该设计的关键在于利用镜头这一层级结构，分别处理局部关系与跨镜头上下文。 作者报告，在 MovieNet、BBC 和 OVSD 三个电影场景检测数据集上，TranS4mer 优于此前方法；相较标准 Transformer，速度为其 2 倍，GPU 显存需求约为其三分之一。摘要未给出检测指标、划分协议、具体对照配置及效率测量条件，因此这些结果仅适用于作者所述电影场景检测评估，实验协议、消融及统计信息尚未验证。作者表示将发布代码和模型，材料不能确认其已公开。 平台推测（待验证）：可检验的迁移假设是，将局部交互与长程状态聚合分离，可能缓解长时 EEG 建模的计算负担。可复用的是 S4A 的分工机制，但电影镜头结构不能直接等同于 EEG 时间窗；需要改造信号编码、时间分段与任务监督。摘要也不足以判断原方法的数据规模要求。低信噪比、跨被试差异、通道布局变化及小数据训练均可能使局部注意力学习到噪声，或使长程聚合混合不同生理状态。一个小规模可证伪实验是在同一 EEG 数据集、固定跨被试划分及相同输入长度和训练预算下，对比局部注意力加 S4、纯注意力和纯 S4，核对任务指标与速度、显存，并测试时间窗长度变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 TranS4mer 将镜头内自注意力与镜头间 S4 状态空间聚合分工结合的长序列建模机制；其效率优势由作者报告，对 EEG 的迁移价值尚未验证。

  9. OpenReview · State space models73

    通过状态空间增强 Transformer 实现高效长序列建模

    基于摘要分析。该研究面向自然语言处理中的长序列建模，提出 State Space Augmented Transformer（SPADE），以 SSM 补充全局信息，并以高效局部注意力处理局部依赖，旨在缓解标准注意力的二次计算成本与高效注意力全局信息建模能力有限之间的矛盾。 核心机制是将 SSM 加入 SPADE 的底层，其余层采用高效局部注意力。作者认为，SSM 擅长长序列建模，但捕获复杂局部信息的灵活性不足；局部注意力则需要补足长程依赖，两者因而具有互补性。摘要未说明具体 SSM 形式、局部注意力算法、融合方式、损失函数或实际复杂度，不能据此推断模型规模与计算收益。 作者报告，SPADE 在 Long Range Arena benchmark 和语言建模任务上的实验支持其有效性；作者还预训练了大型 encoder-decoder 模型，并展示自然语言理解与自然语言生成任务的微调结果，以考察可扩展性。摘要未提供具体任务划分、对照基线、指标数值或资源开销，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，SSM 的全局上下文与局部注意力的细粒度建模可能对应长时程 EEG 中持续状态与短时事件并存的建模需求。可复用的是二者互补的结构思路；需改造 EEG 的多通道输入表示、时间位置编码和任务输出端。原文评估依赖序列基准及语言任务，并包含大型预训练，不能直接推及小样本 EEG。低信噪比可能使全局状态累积噪声，通道差异与跨被试分布变化也可能削弱收益。一个可检验的小实验是在固定跨被试划分、训练预算和输入长度下，对比局部注意力模型与加入底层 SSM 的版本，同时记录任务指标、显存及推理时间，检验全局信息增益是否成立。已有 EEG 相关工作尚未检索确认。

    阅读价值：SPADE 将 SSM 的全局信息建模与局部注意力结合，为长序列计算成本与局部表达能力的权衡提供了可核对的机制路径，但其 EEG/BCI 适用性尚未验证。

  10. OpenReview · State space models72

    基于神经编码器—解码器模型的缺失数据 ASR：从潜变量整句证据模型中进行经验采样

    基于摘要分析。该研究面向缺失数据自动语音识别（MD-ASR），提出潜变量整句证据模型及其经验采样方法，以处理神经编码器—解码器 ASR 中证据分布维度高、Monte-Carlo 采样结果帧间不连续的问题。其目标是在不重新训练模型参数的情况下，将语音增强（SE）结果的不确定性用于识别。 方法通过给定潜变量的较简单条件概率密度函数约束证据模型，使采样可以在低维空间中以确定性或随机方式进行。共享潜变量同时充当这些概率密度函数之间的共同平滑参数，使生成样本在帧间保持连续；神经 SE 的不确定性也被纳入混合概率密度模型。核心机制是对整句输入的不确定性进行结构化建模与采样，而非仅逐帧独立处理。 作者报告，在使用 Transformer 的 MD-ASR 实验中，增强语音的字符错误率进一步平均降低了 2.5 个百分点。摘要未提供数据集、划分、具体对照配置或平均方式，因此该结果的适用条件、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 预处理能够提供可校准的不确定性分布，共享潜变量采样或可用于保留时间连续性的输入不确定性传播；这只是机制对应假设，尚未检索确认已有 EEG 相关工作。可复用部分是低维证据采样与预测期望近似，需改造的是 EEG 观测分布、时间及通道相关结构。低信噪比、跨被试差异和小数据可能导致分布失配或过度平滑。一个可证伪的小实验是在固定 EEG 解码器和相同采样预算下，对照逐时间点独立采样与共享潜变量采样，检验后者能否在预设噪声扰动下稳定改善解码表现；该效果尚未验证。

    阅读价值：值得核对其如何用共享潜变量降低整句证据分布的采样维度并保持帧间连续性，但摘要报告的语音识别收益不能直接视为 EEG 或 BCI 有效性证据。

  11. OpenReview · State space models74

    解码神经检索器的潜在空间以生成查询建议

    基于摘要分析。本文研究神经检索模型潜在空间难以解释的问题，提出学习 query decoder，将检索引擎的潜在表示转换为文本查询，以解释查询变化与检索结果之间的关系，并用于生成查询建议。主要研究对象是文本信息检索，而非神经信号解码。 核心机制是从潜在表示生成对应查询，并探索沿潜在空间中的适当方向移动后，能否解码出可检索到相关段落的查询。作者报告，可以恢复有意义的查询，也可以借此理解：若希望检索到某一段落，原本应当提出怎样的问题。摘要未说明潜在空间移动方向如何确定、query decoder 的结构、训练目标或监督构造方式，这些细节尚未验证。 作者使用 query decoder 为 MSMarco 生成大规模合成查询改写数据，并报告这些数据带来检索性能提升；随后基于该数据训练用于查询建议的伪相关反馈（PRF）T5 模型。作者报告，该模型优于查询改写和 PRF 信息检索基线。摘要未提供具体指标、提升幅度、数据划分及基线配置，因此不能量化收益或判断不同评估协议下的可比性，实验协议、消融及统计信息尚未验证。 该方法依赖文本查询、段落集合及神经检索表示，其直接价值在于检索表示解释和查询建议的数据生成。当前材料未建立这一机制与 EEG 表示、监督目标或 BCI 任务之间的具体对应关系，不据此提出 EEG 迁移效果或复现实验建议；已有 EEG 相关工作尚未检索确认。复现原研究前需核对检索器与解码器配置、合成数据构建流程、PRF 输入及完整评估协议。

    阅读价值：值得阅读其将检索潜在表示解码为可读查询、并用于合成查询改写数据的机制，但摘要中的检索收益不能视为 EEG 或 BCI 有效性的证据。

  12. OpenReview · State space models80

    使用状态空间视频模型进行长电影片段分类

    基于摘要分析。本文研究长电影片段分类中的长程时序推理问题，提出 ViS4mer，将 Transformer 的短程时空特征提取与结构化状态空间序列（S4）层的长程建模结合，以缓解长序列自注意力的二次计算成本。 核心机制是使用标准 Transformer encoder 提取短程时空特征，再交由多尺度时序 S4 decoder 进行长程推理。decoder 各层逐步降低时空特征分辨率与通道维度，在压缩表示的同时建模长程时空依赖。其方法价值在于局部特征提取和长程推理的模块分工，而非将整个视频处理流程完全替换为 S4。 作者报告，相对于对应的纯自注意力模型，ViS4mer 速度为其 2.63 倍，GPU 显存需求为其八分之一；硬件、输入长度、批量大小及计时口径尚未验证。作者报告，在 Long Video Understanding（LVU）benchmark 的 9 项长电影视频分类任务中，6 项达到当时的最先进结果，并在 Breakfast 和 COIN 程序性活动数据集上取得有竞争力的结果。具体任务指标、数据划分、对照配置、消融及统计信息尚未验证，不能据此比较不同评估协议。摘要提供了公开代码地址，但运行环境、预训练依赖及复现完整性尚未核对。 平台推测（待验证）：这一机制可对应长时段 EEG 建模中全局注意力成本较高的瓶颈，但视频结果不等于 BCI 效果。迁移假设依赖于任务确有长程时序信息，以及局部 EEG 特征能保留该信息；可复用 S4 长程推理模块，需改造视频时空编码和多尺度降采样，使其适配 EEG 通道、采样率及任务监督。低信噪比、跨被试分布差异、通道配置变化和小数据可能使压缩过程丢失短暂 ERP 或其他判别线索。一个可检验的小实验是固定 EEG 局部编码器与数据划分，仅比较 S4 和自注意力长程模块，在不同输入时长下记录任务指标、推理时间及显存，并严格隔离训练与测试被试。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其将短程 Transformer 特征提取与多尺度 S4 长程推理结合的机制及效率对照，但作者报告的视频任务收益尚不能视为 EEG/BCI 有效性的证据。

1月1日周五
  1. OpenReview · State space models75

    通过输入空间转译利用 BERT 进行多模态目标情感分类

    基于摘要分析。本文研究多模态目标/方面情感分类：结合推文文本与图像，判断句子中指定目标实体的情感。针对推文较短、配图复杂且可能与目标无关的问题，作者提出双流模型，将图像中的对象级信息转译成辅助句子，再提供给语言模型，避免修改语言模型内部结构以接收多模态数据。 核心机制是先使用对象感知 Transformer 处理图像，再通过单次、非自回归文本生成完成输入空间转译。生成的辅助句子既增加语言模型可利用的文本，也提炼复杂图像中的对象信息。摘要未说明双流的具体连接方式、训练目标、图像对象提取方式或辅助句子的构造细节，这些内容尚未验证。 作者报告，在两个多模态 Twitter 数据集上达到当时的最优性能，但摘要未给出数据集名称、划分协议、对照方法或指标数值，因此无法核对提升幅度及比较条件。作者还报告并解释了一种常用方面情感分析方法在推文场景中的失效模式，具体机制需查阅全文。摘要提供了代码仓库地址，但实现完整性、运行依赖、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可考察的跨领域机制是将非文本模态转成语言模型可接收的辅助文本，而非直接改造语言模型。原任务依赖图像对象与文本目标之间的语义联系；EEG 则是低信噪比、具有时间与通道结构的连续信号，不能直接套用对象级图像转译。若用于 EEG，需要重新设计信号编码与文本化模块，并验证文本化是否损失任务相关信息、引入语言先验偏差，以及是否能应对跨被试差异和小数据条件。一个可检验的假设是：在固定跨被试划分与相同监督数据下，由训练集定义的 EEG 特征描述能否较相同特征的直接分类基线带来收益；这并非本文已验证的结果。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是将图像对象信息转译为辅助文本、在不修改 BERT 内部结构的条件下进行多模态目标情感分类的机制；其对 EEG/BCI 的适用性尚未验证。

  2. OpenReview · EEG71

    SleepTransformer：具有可解释性与不确定性量化的自动睡眠分期

    基于摘要分析。该研究针对深度学习自动睡眠分期的黑箱性质及其临床使用障碍，提出基于 Transformer 的序列到序列模型 SleepTransformer，利用自注意力分数展示 EEG 片段内部特征和相邻片段上下文的作用，并以熵量化预测不确定性。 在片段（epoch）层面，模型将注意力分数编码为热图，展示输入 EEG 中模型关注的睡眠相关特征；在序列层面，模型可视化不同相邻片段对目标片段识别的影响。作者将这种上下文展示与人工睡眠评分时参考邻近片段的做法相联系。摘要未提供输入表征、模型结构细节、训练损失及序列长度，相关实现条件尚未验证。 不确定性方法以熵为基础，拟用于识别低置信度片段并交由人工专家进一步检查。摘要未说明熵的具体计算形式、转交阈值、不确定性校准或人工复核后的收益，因此不能据此认定该流程已改善临床评分质量。注意力可视化呈现的是模型关注模式，其是否忠实解释决策仍需结合正文中的验证方法核对。 作者报告，SleepTransformer 在两个规模不同的数据库上达到与现有方法相当的表现，但摘要未给出数据库名称、被试数、数据划分、对照方法或具体指标，不能据此比较被试内、跨被试或跨会话性能。实验协议、消融及统计信息尚未验证。作者认为可解释性与不确定性量化使其具有进入临床环境的潜力；这属于应用前景判断，而非临床验证结论。本文的主要研究对象是 EEG 自动睡眠分期，不能直接视为已验证的 BCI 解码方法。

    阅读价值：值得阅读的具体原因是 SleepTransformer 将 EEG 睡眠分期的片段级与序列级注意力可视化同基于熵的不确定性度量结合，为核对模型判别依据及低置信度片段的人机复核流程提供了明确方法，但其解释可靠性与临床效用尚未验证。