跳到正文
只看一手#NLP
12月31日周二
  1. OpenReview · State space models82

    状态空间模型中的状态幻象

    基于摘要分析。本文研究面向 LLMs 的状态空间模型（SSMs）是否比 transformer 更擅长表达序列计算与状态追踪；核心贡献是通过形式化分析挑战这一假设，并以 Mamba-style SSMs 的状态追踪实验补充理论论证。 SSMs 的递归形式与 RNNs 接近，但递归形式本身不必然意味着更强的计算表达能力。作者报告，其分析所覆盖的 SSMs 的表达能力受复杂度类 TC⁰ 限制，与 transformer 存在相似的限制，因此不能表达超出该类的计算。作者据此指出，这些模型不能解决排列复合等状态追踪问题，并进一步讨论特定记谱方式下的棋步追踪、代码求值及长篇叙事中的实体追踪。摘要未给出定理涉及的精度、序列长度、模型规模或其他假设，不能将结论无条件推广到所有 SSM 变体。 作者报告，Mamba-style SSMs 在状态追踪实验中确实表现困难；摘要未提供任务构造、数据划分、对照基线或量化指标，实验协议、消融及统计信息尚未验证。需区分理论上的表达能力限制与具体训练条件下的性能困难，二者不能直接等同。 平台推测（待验证）：若 EEG 任务确实依赖多步离散状态更新，而非主要依赖局部波形或统计特征，该分析可用于提出“递归结构是否足以支持所需状态追踪”的假设。可复用的是状态追踪测试思路，需改造的是 EEG 输入编码、状态定义及监督目标；低信噪比、跨被试差异、通道变化和小数据可能使输入表征或训练问题掩盖表达能力限制。一个可检验的小实验是在同一 EEG 数据划分中构造明确的多步状态更新目标，对比 Mamba-style SSM 与 transformer，并分别检查单步识别及随序列长度变化的状态追踪表现。此实验仅检验特定设置下的行为，不能直接验证复杂度定理；已有 EEG 相关工作尚未检索确认。

    阅读价值：该文以计算复杂度分析和 Mamba-style SSMs 的实验检验，审视递归形式是否带来状态追踪表达能力优势，值得用于辨析架构中的“状态”与可实现的序列计算能力，但理论适用条件及 EEG 迁移价值尚未验证。

  2. OpenReview · State space models73

    VL-Mamba：探索状态空间模型在多模态学习中的应用

    基于摘要分析。本文研究状态空间模型（SSMs）能否作为 Transformer 的替代方案用于视觉—语言多模态学习，提出以预训练 Mamba 语言模型为核心的 VL-Mamba，并通过 MultiModal Connector（MMC）增强视觉序列建模。主要研究对象是视觉与文本信息的整合及模态对齐，而非神经信号或 BCI。 方法上，MMC 引入 Vision Selective Scan（VSS）模块；作者探索二维视觉选择性扫描机制在多模态学习中的应用，以及不同视觉编码器与预训练 Mamba 语言模型变体的组合。摘要未给出连接器的具体结构、扫描路径、损失函数、训练阶段或参数规模，这些实现细节尚未验证。作者将该工作称为首次探索 SSMs 在多模态学习中的应用，此优先性声明尚未独立核实。 结果方面，作者报告，在多个多模态基准上，VL-Mamba 与规模相近的小型 MLLMs 表现具有竞争力，并在部分评估中超过 LLaVA-1.5 的 7B 和 13B 版本。摘要未列出基准名称、指标、具体分数、数据划分或训练资源，因而不能据此判断整体优势，也不能将局部结果推广至所有任务。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可供 EEG 多模态建模参考的机制是利用 SSM 建模序列，并以连接器对接异构模态表征；但原方法依赖视觉编码器、二维视觉结构和预训练语言模型，不能直接视为 EEG 方法。若用于 EEG—文本配对任务，可复用 Mamba 核心与连接器思路，但需改造 EEG 编码器及通道—时间扫描方式，并核对配对监督和训练数据规模。EEG 的低信噪比、通道布局差异、跨被试分布偏移及小样本条件均可能使迁移失败。一个可检验的小实验是在固定 EEG 编码器、训练数据及跨被试划分下，对比简单投影连接器与适配通道—时间结构的扫描连接器，检验扫描机制是否带来稳定增益。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其以预训练 Mamba 与视觉选择性扫描连接器实现视觉—语言建模的机制及对照，但摘要中的性能结论仍需结合完整评估协议核对，尚无 EEG/BCI 有效性证据。

  3. OpenReview · Representation learning71

    解耦表示学习

    基于摘要分析。本文综述 Disentangled Representation Learning（DRL，解耦表示学习），研究如何从可观测数据中识别潜在变化因素，并将其分离为具有语义意义的表示变量；主要贡献是系统整理定义、方法分类、评价、应用与模型设计原则，而非提出一个新的 EEG/BCI 算法。 在理论框架上，文章介绍 Intuitive Definition（直观定义）与 Group Theory Definition（群论定义）两种定义，并从模型类型、表示结构、监督信号及独立性假设四个视角归类方法。摘要还说明，文章讨论不同任务下的模型设计原则及未来挑战，但未提供具体损失函数、训练流程、评价指标或分类细目，相关内容尚未验证。 作者概述 DRL 在计算机视觉、自然语言处理和数据挖掘等领域对可解释性、可控性、鲁棒性及泛化能力的作用；摘要未给出可核对的定量结果，不能据此判断某种方法优于其他方法。具体实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 中任务相关活动与被试、会话或采集条件的变化能够在一定程度上分离，DRL 的表示结构与监督信号设计可作为跨被试或跨会话建模的候选思路。可复用的是潜在因素分离与评价框架；需改造的是 EEG 时空编码、因素监督及解耦有效性的验证方式。低信噪比、通道差异、小样本和任务因素与个体因素的耦合，可能使语义因素不可辨识，或在解耦过程中损失任务信息。一个可检验的小实验是假设在固定跨被试划分下，采用同一 EEG 编码器，对比加入与不加入候选解耦约束的模型，同时检查任务性能和表示中的被试信息，以检验是否存在真正的泛化收益，而非仅压低身份可预测性。该设想不是本文已验证的结果；已有 EEG 相关工作尚未检索确认。

    阅读价值：该综述按定义、模型类型、表示结构、监督信号与独立性假设梳理解耦表示学习，值得用于厘清方法选择及评价前提，但其对 EEG/BCI 的适用性尚未验证。

  4. OpenReview · Representation learning75

    用于通用视频-语言表征学习的层次化 Banzhaf 交互

    基于摘要分析。该研究针对视频-语言表征学习中预定义视频-文本对的全局语义交互过于粗粒度的问题，提出 Hierarchical Banzhaf Interaction，以多变量合作博弈理论建模视频片段与文本词语的细粒度对应，并将框架扩展到多种下游任务。 核心机制是将视频与文本建模为博弈参与者，从层次化视角处理细粒度语义交互中的粒度差异、灵活组合与强度不确定性。为缓解 Banzhaf Interaction 计算中的偏差，作者提出融合单模态与跨模态成分来重构表征，目标是在保持与单模态表征相当的细粒度信息的同时，保留跨模态表征的自适应编码特性。摘要未给出层次构造、交互估计方式、偏差定义、具体损失或训练流程，相关实现尚待全文核对。 作者还将原有结构扩展为灵活的编码器-解码器框架。作者报告，该方法在常用 text-video retrieval、video-question answering 和 video captioning 基准上取得优于对照的表现；摘要未列出具体数据集、划分、基线、指标及数值，因此不能量化收益，也不能据此确认其对其他模态的泛化能力。摘要提供了代码仓库，但代码内容、复现条件、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 与刺激视频或文本具有可靠的时间及语义配对，该机制可能用于检验 EEG 时间片段与语义单元间的细粒度对应，而非仅做整段对齐。可考虑复用层次交互及表征融合思路，但需改造 EEG 编码、时间分段与跨模态配对方式；低信噪比、跨被试差异、通道变化及小数据条件可能使交互估计不稳定。一个可证伪的小实验是在同一配对数据和固定跨被试划分下，对比全局对齐、加入层次交互及再加入表征重构的方案，观察配对检索指标是否稳定改善。原视频-语言结果不等于 EEG/BCI 有效，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其 Hierarchical Banzhaf Interaction 如何刻画细粒度跨模态对应，以及表征重构是否缓解交互计算偏差；摘要报告了多任务验证，但具体收益与 BCI 适用性尚未验证。

12月14日周六
  1. OpenReview · State space models79

    蛇与梯：通过推测解码加速状态空间模型推理

    基于摘要分析。本文研究大语言模型中状态空间模型（SSM）的推测解码加速：草稿模型先预测多个 token，再由基础模型验证；难点在于草稿被拒绝后，SSM 不仅需要回退 token，还需处理其独立维护的 Markov 状态。作者提出 Joint Attainment and Advancement 与 Activation Replay，利用闲置计算资源进行多 token 推测和验证。 技术机制上，摘要将自回归 Transformer 的历史 token 状态与 SSM 的递归状态作对比，强调后者的状态回退并不直接。两种方法如何保存、恢复或重放状态，以及验证过程如何保证与基础模型生成结果一致，尚无法从摘要确认。作者以简单 n-gram 作为草稿生成器，说明其加速方案不必依赖另一个大型草稿模型；但接受规则、数值一致性与具体实现尚未验证。 作者报告，在三个未具名基准上，生成 6 个 token 的成本为生成单个 token 的 1.47 倍，平均实际运行时间加速为 1.82 倍。摘要未明确两项数字的成本口径及对应配置，不能将其直接等同。作者还报告，模型规模从 1.3B 参数增至 13B 参数时，相对开销从 1.98 倍降至 1.22 倍。硬件、序列长度、批大小、基准任务及统计信息尚未验证。作者进一步指出，该方法可用于序列批处理，并通过动态资源分配提高可变推理流量下的效率与吞吐；摘要未提供对应的量化吞吐结果。 平台推测（待验证）：若 EEG 系统使用自回归 SSM 生成离散信号 token，状态回退机制可能用于降低生成延迟，但这不等于改善 BCI 解码效果。其适用性依赖 token 化方式、草稿接受率与可利用的计算余量；低信噪比、跨被试变化或短序列可能削弱收益。可先在固定模型与同一 EEG token 测试集上比较常规生成和推测生成的输出一致性及端到端延迟，再判断是否值得扩展。已有 EEG 相关工作尚未检索确认；本材料未提供 EEG/BCI 实验。

    阅读价值：该研究针对 SSM 推测解码中的状态回退难题提出两种方法，并报告运行时间与模型规模相关的开销变化，值得核对其状态恢复机制、输出一致性及批处理吞吐表现；其 EEG/BCI 适用性尚未验证。

11月12日周二
  1. OpenReview · Representation learning76

    通过指令微调进行无监督文本表示学习，用于零样本稠密检索

    基于摘要分析。该研究针对稠密检索依赖标注数据、低资源场景难以获得监督信号的问题，在双编码器检索框架下对预训练编码器—解码器 LLM 进行指令微调，以学习无监督文本表示并改善零样本检索。 核心机制包含两部分：利用指令微调后的 LLM 生成与语料文本相关的合成查询，并以这些查询的表示增强语料表示；再通过 self-instruct tuning 对齐查询与语料文本的表示。作者将表示增强的理论依据关联到 Rao-Blackwell 定理，但摘要不足以核对其具体估计量、适用假设、表示组合方式及训练目标。 作者在低资源设置下，使用三个英语、两个德语和一个葡萄牙语检索数据集，以 NDCG@10、MRR@100 和 Recall@100 评估方法。作者报告所有指标的平均零样本检索表现均得到改善，相对开箱即用的 FLAN-T5 不同模型变体，绝对 NDCG@10 增益区间为 [4.73%, 6.15%]（保留摘要原文数值表述），并超过四个有监督稠密检索器。数据集名称、训练与测试划分、各指标分项结果、模型规模、对照训练条件及统计显著性检验尚未验证，不能据此认定在所有单独数据集上均占优。 平台推测（待验证）：其较直接的 BCI 应用是领域文献或实验记录的文本检索，而非 EEG 信号表征学习。迁移假设依赖生成模型能够产生准确的 BCI 专业查询；可复用合成查询增强与表示对齐思路，但需验证术语错误和生成偏差是否损害检索。摘要未提供将该机制映射到 EEG 时序、通道或跨被试结构的依据，不能推断其提升 EEG 解码；相关 EEG 工作尚未检索确认。复现还需核对指令模板、合成查询生成设置、表示聚合方式与实现可用性。

    阅读价值：值得核对其利用合成查询增强文档表示并通过自指令微调对齐查询与文档的机制，以及低资源零样本检索增益对模型规模、数据划分和对照设置的依赖。

10月16日周三
  1. OpenReview · State space models71

    SSMLoRA：利用状态空间模型增强低秩适配

    基于摘要分析。SSMLoRA 针对语言模型参数高效微调中 LoRA 对插入位置敏感、部分插入可能冗余的问题，引入状态空间模型（SSM）连接低秩矩阵，旨在通过复用先前低秩空间的计算，在更稀疏的插入配置下维持任务性能。 机制上，标准 LoRA 向预训练权重矩阵引入低秩适配参数；SSMLoRA 在输入映射至低秩空间之外，进一步利用先前低秩空间的计算。其主要研究价值是检验适配模块之间的信息传递能否降低对插入密度的依赖。摘要未说明 SSM 的具体状态更新、连接顺序、插入策略、训练损失或基础语言模型，相关实现尚未验证。 作者报告，在 GLUE 基准上，SSMLoRA 使用 LoRA 一半的参数获得可比性能；摘要未提供具体分数、任务级结果、参数统计口径及训练和评估划分，不能据此判断所有任务均保持性能。作者还认为其结构有望处理更长输入序列，但摘要未给出相应长序列实验结果。实验协议、消融及统计信息尚未验证，复现前需核对插入数量、低秩维度、SSM 开销与对照配置。 平台推测（待验证）：假设 EEG 预训练模型具有多个可插入适配模块的位置，跨模块复用低秩计算可能帮助降低下游微调参数量，但语言理解结果不等于 EEG/BCI 有效。可复用的是低秩适配与 SSM 连接思路，需改造的是适配位置、输入表示及状态传递方式；摘要并未确定这种状态传递是否对应时间维度。低信噪比、跨被试分布差异、通道变化和小样本可能使共享状态传播无关信息。一个可证伪的小实验是在同一 EEG 预训练模型与固定 Cross-subject 划分下，对比标准 LoRA、稀疏 LoRA 与 SSMLoRA，在匹配适配参数预算时检验任务性能及稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其通过 SSM 连接低秩适配计算、减少 LoRA 插入位置的机制，以及作者报告的 GLUE 性能与适配参数量权衡；其长序列优势尚待具体实验验证。

10月10日周四
  1. OpenReview · State space models77

    状态空间模型的参数高效微调

    基于摘要分析。本文研究深度状态空间模型（SSMs，如 Mamba）中的参数高效微调（PEFT），比较既有方法的适用性，并分析哪些模块适合微调；在此基础上提出 LoRA with Selective Dimension tuning（SDLoRA），将线性投影矩阵上的 LoRA 与 SSM 模块内的选择性维度更新结合。 作者对四种基础 PEFT 方法进行了经验评估，报告 prompt-based 方法（如 prefix-tuning）在所研究的 SSM 模型与实验条件下不再有效，并提供理论分析支持；相比之下，LoRA 仍然有效。进一步的理论与实验分析表明，在其比较设置中，将 LoRA 应用于线性投影矩阵、而不修改 SSM 模块，效果最佳；作者同时报告，直接用 LoRA 调整 SSM 模块并不有效。这一结论针对具体微调方式，不等于 SSM 内部参数完全不值得更新。 SDLoRA 的机制是在 SSM 模块中选择性更新部分通道和状态，同时对线性投影矩阵应用 LoRA。作者报告该方法优于标准 LoRA，但摘要未给出数据集、任务组成、模型规模、可训练参数预算、指标或提升幅度；维度选择规则、训练配置、实验协议、消融及统计信息尚未验证。复现时需核对各方法的参数预算与训练条件，以及理论结论适用的模型假设。 平台推测（待验证）：若 EEG 任务已有可用的预训练 SSM，该方法可能为小数据微调提供候选方案；但原研究针对语言建模背景下的 SSM，不能据此认定其对 EEG 有效。迁移假设是选择性更新状态维度能够适应 EEG 时序差异，同时限制可训练参数规模。可复用部分是投影矩阵上的 LoRA 与选择性维度更新，需改造 EEG 输入表征及任务输出模块；低信噪比、跨被试差异和通道配置变化可能使所选维度失效。可在固定跨被试划分与匹配可训练参数预算的条件下，小规模比较标准 LoRA 与 SDLoRA，并检查多次运行的稳定性。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其关于 LoRA 在 SSM 内部模块与线性投影矩阵上效果差异的理论和实验分析，为选择参数高效微调的位置提供依据，但具体评估协议与效果幅度尚未验证。

  2. OpenReview · Representation learning59

    利用动态符号表征与 LLM 增强分层强化学习中的任务抽象

    基于摘要分析。研究针对分层强化学习（HRL）在持续学习环境中的效率与泛化问题，提出将动态符号表征与大语言模型（LLM）结合，以连接人类指令、示范与高层任务抽象，并辅助分层规划。 方法建立在 Spatial-Temporal Abstraction via Reachability（STAR）算法之上。摘要将高层状态空间的符号化降维，以及通过语言输入识别模仿学习中的关注区域，列为潜在解决路径；所提框架利用 LLM 的自然语言处理与推理能力，将人类示范转化为可供强化学习使用的信号，并在抽象空间状态与符号表征之间建立映射。动态符号表征如何更新、LLM 的输入输出格式、奖励或训练信号的具体构造，以及它与 STAR 的交互方式，尚未验证。 作者报告在 ant robot 环境中开展实验，展示 LLM 将抽象空间状态转化为符号表征并辅助任务规划的能力。摘要未提供具体指标、对照基线或实验划分，因此不能据此量化效率或泛化收益，也不能将作者所述复杂现实任务的应用潜力视为真实环境验证。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：该机制与 EEG/BCI 的联系更可能位于高层任务规划接口，而非 EEG 信号解码本身。迁移假设是将解码输出映射为符号状态，再由 LLM 辅助分解任务；这依赖稳定的状态定义、可执行动作集合及语言或示范输入。可考虑复用符号规划接口，但需改造状态编码和不确定性处理。低信噪比、跨被试差异、通道变化及小数据导致的解码误差可能沿规划链累积。一个可证伪的小实验是在固定解码器与动作集合下，对比 STAR 与加入 LLM 的规划版本，并注入不同程度的状态误判，观察任务完成率和规划开销是否改善。已有 EEG 相关工作尚未检索确认。

9月28日周六
  1. OpenReview · Representation learning73

    面向稳健因果表征学习的预训练语言模型微调

    基于摘要分析。该研究针对预训练语言模型（PLMs）微调后依赖非因果、虚假特征而难以泛化到域外（OOD）数据的问题，提出在单域场景下结合微调表征与因果前门调整，学习更稳健的表征。其核心贡献是建立微调、数据增强与因果机制之间的联系，以支持域泛化。 机制方面，摘要明确指出方法依赖一项 decomposition（分解）假设，并将微调得到的表征作为数据增强来源，通过 causal front-door adjustment（因果前门调整）构建稳健表征。作者将这一思路与依赖较强无隐藏共同原因假设的调整方法，以及依赖多域数据抑制虚假特征的方法区分开来。但分解对象、因果变量关系、前门调整的具体实现、训练目标及推理流程尚未验证；“较温和假设”是作者对适用条件的描述，仍需结合正文核对。 作者报告，在合成与真实场景的实验中，该方法相较现有方法具有更好的泛化能力。摘要未提供数据集、任务、模型规模、划分方式、对照基线或指标数值，实验协议、消融及统计信息尚未验证，不能据此判断优势幅度或适用范围。 平台推测（待验证）：这一机制可能为 EEG 中抑制被试或采集环境相关的虚假特征提供思路，但语言表征上的有效性不等于 EEG/BCI 有效。可探索复用表征增强与因果调整框架，需改造 EEG 编码器、增强方式及变量分解定义，并确认单域监督条件下相关假设是否成立；低信噪比、通道变化、小样本及跨被试差异可能使增强保留混杂因素，或破坏任务相关信息。一个可证伪的小实验是在固定被试内训练、跨会话测试的 EEG 分类协议下，比较普通微调、仅表征增强及加入因果调整的版本，检查域外收益是否稳定。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其如何在单域监督数据下，以微调表征作为数据增强来源并结合因果前门调整构建稳健表征，尤其是分解假设的适用条件与域外泛化的验证协议。

  2. OpenReview · Representation learning70

    语言引导的表征学习

    基于摘要分析。该研究探讨如何利用语言中的高层抽象指导表征学习，以应对深度神经网络的捷径学习、纹理偏置、噪声敏感性与灾难性遗忘等问题。核心贡献是探索 Explicit Language Guidance 与 Implicit Language Guidance 两类语言指导，并考察其对视觉编码器的监督作用。 机制上，Explicit Language Guidance 向模型引入直接、可用语言表达的见解；Implicit Language Guidance 提供更直觉化、间接的线索。摘要称这些方法仅在文本上训练，却能够为视觉编码器提供监督，但未说明文本训练的具体对象、语言信息与视觉表征的连接方式、损失函数或训练流程，相关实现尚未验证。 作者报告，经验分析显示上述方法改善了泛化、鲁棒性及持续学习中的任务适应性。摘要未提供数据集、数据划分、对照基线、指标或数值，因此尚不能判断各类指导的独立贡献、收益幅度及适用范围；实验协议、消融及统计信息尚未验证。复现需进一步核对文本来源、监督构造、视觉编码器设置以及持续学习任务序列。 平台推测（待验证）：若语言指导能将任务相关的高层概念转化为编码器可利用的监督，它可能为 EEG 表征学习中的捷径依赖和跨被试泛化提供研究思路。该假设依赖语言概念与 EEG 任务之间存在可靠对应关系；可借鉴的是语言指导框架，需改造的是信号编码器及语言与信号的对齐接口。低信噪比、被试差异、通道配置变化和小样本可能使这种对应失效。一个可检验的小实验是在固定 Cross-subject 划分和相同 EEG 编码器下，比较无语言指导、真实任务描述指导与打乱描述指导，观察收益是否依赖正确的语言语义。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读以核对文本训练所形成的语言指导如何监督视觉编码器，以及显式与隐式指导对泛化、鲁棒性和持续学习适应性的具体贡献；其对 EEG 的迁移价值尚未验证。

9月27日周五
  1. OpenReview · State space models77

    Chimera：超越序列的状态空间模型

    基于摘要分析。本文研究如何让状态空间模型适用于序列之外的图像与图数据，提出统一框架 Chimera，通过数学推广将数据的拓扑结构直接纳入模型，旨在减少对各模态专门设计的结构启发式的依赖。原论文的主要研究对象是语言、视觉与图任务，而非 EEG 或 BCI。 机制与创新：摘要将位置编码、图上的随机游走等视为注入领域结构的手工归纳偏置，Chimera 则尝试以统一的拓扑感知状态空间框架表达这些结构。作者报告，该机制使序列与图像处理具有线性时间复杂度，并与注意力的二次复杂度作对比；但具体状态更新、拓扑表示、训练目标及复杂度成立条件尚未验证，不能据此推断任意图结构也具有相同复杂度。 结果：作者报告，Chimera 在 GLUE benchmark 上比 BERT 高 0.7 分，在 ImageNet-1k 分类 Accuracy 上比 ViT 提升 2.6%，并在 Long Range Graph Benchmark 上超过所有所比较的基线，其中 PascalVOC 提升 12%。后两项百分比沿用摘要表述：2.6% 是否指相对提升或百分点、PascalVOC 对应何种指标及具体对照，尚未验证。作者据此声称取得跨领域最先进性能；训练预算、数据划分、基线配置、消融及统计信息仍需全文核对。 平台推测（待验证）：若 Chimera 的拓扑算子能够处理电极空间关系与时间结构，它可能对应 EEG 中多通道时空依赖建模的瓶颈。可考虑复用拓扑感知状态更新机制，但需改造 EEG 输入编码、通道拓扑定义及缺失通道处理；其对监督信号和训练规模的依赖尚不明确。低信噪比、跨被试空间关系变化、通道配置差异与小数据条件可能削弱这种归纳偏置。一个可检验的小实验是在同一 EEG 数据集、固定跨被试划分和相同训练预算下，对比真实电极拓扑、打乱拓扑与序列状态空间基线，检验收益是否确实来自空间结构，并记录计算开销。上述仅为迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其将数据拓扑直接纳入状态空间模型的统一机制，但跨模态性能提升及复杂度结论仍需全文核对，向 EEG 的迁移有效性尚未验证。

  2. OpenReview · Representation learning73

    利用无标签文本在表征层面进行上下文学习

    基于摘要分析。本文研究大型语言模型（LLMs）的 In-Context Learning（ICL）在预训练与推理之间的差异，提出仅利用测试集无标签输入及标签空间的推理方法：分别提取示例输入的表征，再将其融合以重塑待预测输入的表征。其主要贡献是尝试在表征层面利用上下文，而不依赖示例的真实标签。 作者指出两类差异：传统 ICL 的示例中插入标签，而预训练文本通常不具有这种结构；独立抽取的示例之间语义关联较弱，不同于预训练语料中的连续文本。所提方法独立编码示例输入并融合表征，但摘要未给出融合算子、表征提取位置、预测规则或是否需要额外训练，不能据此认定具体网络结构或损失形式。“无标签”指不使用示例真实标签，并不意味着不使用标签空间。 作者报告，在摘要所述但未明确列出任务、数据划分和指标的评估中，该方法优于获得真实标签信息的传统 ICL；作者还报告，小模型使用该方法可超过更大模型的零样本表现，例如 GPT-Neo-2.7B 超过 Llama2-7B，Llama2-7B 超过 Llama2-13B。这些结论需结合具体模型配置、任务及推理预算核对，不能据此推广为普遍的模型规模优势。实验协议、消融及统计信息尚未验证；摘要表示将提供代码，当前可用性尚未确认。 平台推测（待验证）：原方法依赖文本模型表征、测试集无标签样本及标签空间。若 EEG 编码器具有可比较的任务表征，独立编码并融合无标签上下文的思路可能用于跨被试或跨会话适配；可复用的是表征融合思路，需改造的是 EEG 编码器、上下文选择和类别输出映射。低信噪比、通道差异及小样本条件可能使融合放大非任务因素。一个可检验的小实验是固定 EEG 编码器，在明确允许使用目标测试集无标签样本的协议下，对比无融合与表征融合，并保持样本可见性一致、目标真实标签仅用于评估。原领域结果不构成 EEG/BCI 有效性证据，已有相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其无标签输入表征融合机制，以及与使用真实标签的传统 ICL 对比时的任务和推理协议；摘要报告了潜在效率优势，但具体效果与 EEG 迁移价值尚未验证。

  3. OpenReview · Representation learning74

    面向知识追踪的自动化知识概念标注与问题表征学习

    基于摘要分析。该研究面向教育领域的知识追踪（Knowledge Tracing，KT），旨在缓解题目知识概念（KCs）标注依赖专家，以及既有方法未充分利用题目与知识概念语义的问题。作者提出 KCQRL，通过 LLM 自动标注和对比学习生成语义表征，为既有 KT 模型提供可替换的嵌入，而非研究 EEG 或 BCI 解码。 方法包含两部分：首先使用 LLM 生成题目解答，再对每个解题步骤标注知识概念；随后对题目和解题步骤进行对比学习，使其表征与关联的知识概念对齐，并采用定制的假负例消除机制。所得嵌入用于替换既有 KT 模型中随机初始化的嵌入。摘要未提供对比损失的具体形式、假负例判定规则，以及 LLM 标注质量的验证方式。 作者报告，在两个大型真实数学学习数据集上，将 KCQRL 应用于 15 种 KT 算法均获得一致的性能提升。摘要未给出数据集名称、划分协议、评价指标、提升幅度或具体对照设置，因而尚不能判断收益大小与泛化范围；实验协议、消融及统计信息尚未验证。复现还需核对 LLM 与提示设置、知识概念体系、嵌入训练配置及接入各 KT 模型的具体方式。 该机制依赖题目、分步解答与知识概念之间的语义关联，不能直接等同于神经信号表征学习。材料尚未建立这些监督结构与 EEG 数据之间的具体对应关系，因此不据此提出 BCI 迁移实验；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 KCQRL 将 LLM 分步知识概念标注与消除假负例的对比学习结合，并以替换嵌入的方式接入既有 KT 模型，但其效果幅度与 BCI 适用性尚未验证。

  4. OpenReview · State space models75

    MatMamba：一种 Matryoshka 状态空间模型

    基于摘要分析。MatMamba 研究如何让单个状态空间模型适应不同推理计算预算，将 Matryoshka 式学习与 Mamba2 结合，通过修改模型块以包含嵌套维度，实现不同规模子模型的联合训练与自适应推理。 核心机制是从一个训练完成的大模型中提取多个较小的嵌套子模型，而非为每种部署规模分别训练模型。摘要将其与 Matryoshka Representation Learning 及其在 Transformer 骨干上的应用 MatFormer 联系起来；具体维度嵌套方式、训练目标、子模型采样策略和推理规模选择规则尚未验证。 作者报告，在参数规模为 35M 至 1.4B 的语言与图像模型实验中，嵌套小模型能够保持或超过从头训练的小模型基线的性能。作者还报告，ImageNet 和 FineWeb 上的结果显示 MatMamba 具有与 Transformers 相近的扩展表现，并具备更高效的推理特性。摘要未提供具体指标、计算预算、硬件、数据划分或延迟数值，因此不能量化性能收益或推理加速；实验协议、消融及统计信息尚未验证。“免费”获得子模型应理解为不必逐个从头训练，不代表联合训练或部署没有额外开销。 平台推测（待验证）：若 EEG 时序任务需要在不同设备计算预算间部署，嵌套子模型可能提供可复用的弹性容量机制。该假设依赖共享模型在不同容量下仍能学习有效时序表征；原摘要的语言与图像实验不能直接证明 EEG 效果。可复用部分是 Mamba2 中的嵌套维度与联合训练思路，EEG 输入编码、通道组织及任务输出模块则需改造。低信噪比、跨被试差异、通道变化和小数据条件可能使较小子模型丢失有效信息。一个可检验的小实验是在固定 EEG 任务及 Cross-subject 划分下，比较联合训练的嵌套子模型与相应规模的独立训练基线，同时记录任务指标、参数量和同一硬件上的推理延迟。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其将 Matryoshka 式嵌套维度引入 Mamba2、联合训练多种规模子模型的机制，并核对弹性推理的性能—计算开销权衡；摘要尚不足以验证实际加速幅度或 EEG 适用性。

9月26日周四
  1. OpenReview · Representation learning77

    从表示学习视角理解 Transformers 如何进行上下文学习

    基于摘要分析。本文研究 Transformers 的上下文学习（ICL）机制，即模型如何仅凭少量示范样例、在不更新参数的情况下执行新任务。核心贡献是借助核方法构建单个 softmax attention 层的对偶模型，从表示学习视角解释 ICL 推理，并分析示范 token 数量与泛化误差的关系。 机制方面，作者报告，attention 层的 ICL 推理过程可对应于对偶模型的训练过程，所生成的 token 表示预测与对偶模型的测试输出等价。作者进一步分析该对偶模型的训练过程，推导与示范 token 数量有关的泛化误差界，并将理论结论扩展至单个 Transformer 层及多个 attention 层。摘要未提供等价关系成立的假设、误差界的具体形式或适用分布，因此不能据此推断增加示范必然改善任意任务表现。 方法探索方面，作者受表示学习方法、尤其是对比学习启发，提出对 attention 层的潜在修改，并报告设计了实验支持研究结论。具体修改方式、训练目标、任务与数据集、对照基线、结果指标、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：该分析可能为 EEG 上下文示范如何影响表示提供理论切入点，但语言 token 的结论不能直接迁移为 BCI 效果。迁移假设依赖于 EEG 能否形成适合该理论的 token 表示与任务示范结构；可考虑复用 attention 与对偶模型分析框架，而 EEG 分段、通道表示及示范组织方式需要改造。低信噪比、跨被试差异、通道不一致与小样本可能使理论假设失效。待核对全文条件后，可在固定 EEG 编码器和被试内数据划分下，仅改变上下文示范数量、保持模型参数不变，检验任务误差是否符合理论预期。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是作者通过核方法将 softmax attention 的 ICL 推理与对偶模型训练联系起来，并给出涉及示范 token 数量的泛化误差界；其假设条件及实验支持程度尚待全文核对。

  2. OpenReview · State space models77

    MambaTree：树拓扑就是状态空间模型所需的一切

    基于摘要分析。MambaTree 针对状态空间模型受序列几何结构约束、长程依赖建模受限的问题，提出根据空间关系与输入特征动态生成树拓扑，并沿该结构传播特征，以突破原有序列传播路径的限制。 核心机制是将特征传播组织从序列改为动态树结构，并引入线性复杂度的动态规划算法来增强长程交互。摘要未给出树构建规则、状态更新方程、训练目标或复杂度的具体计量范围，因此尚不能确定树生成与传播的整体开销，以及其相对序列式状态空间模型的实现条件。 作者报告，在图像分类、目标检测和分割任务中，MambaTree 显著优于现有结构化状态空间模型；在大语言模型微调中，也以较小训练成本在多个文本任务上取得一致提升。这些结论对应摘要所述任务，但具体数据集、指标、划分、对照基线与成本口径未提供，实验协议、消融及统计信息尚未验证，不宜据此量化性能优势或推断其已具备 EEG 多模态建模能力。 平台推测（待验证）：若将 EEG 的通道空间关系与片段特征用于动态树构建，该机制可能为跨通道及长时间跨度交互提供不同于固定序列的传播路径。可考虑复用树上动态规划思想，但输入表征、通道空间编码和树生成约束需要针对 EEG 改造；其对数据规模和监督方式的依赖仍需核对。低信噪比可能使树结构不稳定，跨被试差异、通道布局变化及小数据条件也可能削弱泛化。一个可证伪的小实验是在固定 Cross-subject 划分下，以相同预处理、训练预算和状态空间骨干，对比原序列传播、固定树与动态树，联合检查任务指标、运行成本和树结构稳定性。该实验仅是迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其动态树拓扑与线性复杂度特征传播如何缓解序列结构对长程依赖的限制，但计算成本优势及向 EEG 的迁移价值尚未验证。

9月24日周二
  1. OpenReview · Representation learning75

    MAGNET：为生成式解码器增强表示学习与文本片段填补能力

    MAGNET 针对仅解码器 LLM 的生成训练与双向表示学习通常相互独立的问题，提出统一适配方法，在保留文本生成能力的同时增强表示学习与缺失文本片段填补。基于摘要分析，未取得论文全文。 核心机制是结合双向注意力与因果注意力，并使用三个自监督训练目标进行统一训练。双向上下文使模型在填补缺失文本时能够利用后续文本，因果建模则服务于原有生成能力。摘要未给出三个目标的具体定义、损失形式、注意力组织方式、基础模型及训练规模，这些实现条件尚未验证。 作者报告，MAGNET 适配后的 LLM 在 token 级和句子级表示学习任务上能够优于先进文本编码器，并改善基础 LLM 生成上下文适配文本填补的能力；作者还报告，模型仍可执行开放式文本生成。摘要未提供数据集、划分、基线名称、指标或数值，因此不能量化优势，也不能判断生成能力保留的程度。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，让表示学习与序列生成共享训练，并按任务组合双向和因果注意力，可能为 EEG 掩码建模与因果序列预测提供设计参考。原方法依赖文本序列及自监督训练，但摘要未交代具体监督构造和数据规模；迁移至 EEG 需改造输入表征、片段填补目标及通道处理，不能直接沿用文本 token 的语义假设。EEG 的低信噪比、跨被试与通道差异，以及小数据条件，可能使任务共享产生负迁移。可检验的小实验是在固定 EEG 数据、被试划分和训练预算下，对照独立训练与共享训练的掩码重建和因果预测表现，评估是否存在互惠或性能损失；这属于迁移假设，而非本文已验证结果。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 MAGNET 如何通过统一自监督训练及双向与因果注意力的结合，兼顾表示学习、文本片段填补和开放式生成；具体收益及任务间权衡尚需全文核对。

9月22日周日
  1. OpenReview · Representation learning74

    使用冻结 LLM 的放射学报告生成中视觉表征的双向学习

    基于摘要分析。该研究针对放射学报告生成（R2Gen）中视觉表征难以被 LLM 有效解释的问题，提出双向学习框架：不仅让图像表征支持报告生成，还要求给定真实报告时，LLM 能生成相应视觉表征，以改善视觉与语言之间的对齐。 核心机制包含视觉到文本、文本到视觉两条学习方向。前者要求视觉表征帮助冻结 LLM 生成接近真实报告的文本；后者联合训练新的报告文本编码器，使冻结 LLM 能参与从报告到视觉表征的生成。此外，图像重建任务用于促使表征保留输入放射学图像的核心特征。摘要未给出具体损失形式、模块结构与训练流程，不能据此确定各目标如何组合。 作者报告，学习到的视觉表征与 LLM 词嵌入空间具有更好的对齐，并在语言准确性与临床效用评估中达到其所称的 SOTA；作者同时称该框架不增加推理阶段计算开销。摘要未提供数据集、划分、对照基线、指标名称或数值，实验协议、消融及统计信息尚未验证。“临床效用”也不能直接等同于临床部署验证。作者表示代码将公开，当前发布状态尚未验证。 平台推测（待验证）：迁移假设是，可由文本反向生成的信号表征，可能更易被冻结 LLM 用于 EEG 描述生成。该机制依赖成对图像与报告监督；用于 EEG 时，需将图像编码与重建模块改为时序信号模块，并获得与信号内容对应的文本监督。可复用的是双向表征约束，而非直接沿用视觉模块。EEG 的低信噪比、跨被试差异、通道配置变化及小规模配对数据，可能使反向生成只学到文本语义而忽略信号细节。一个可证伪的小实验是在固定跨被试划分、相同冻结 LLM 与训练预算下，对比单向学习和加入反向约束的方案，检验文本生成质量与信号表征保真度能否同时改善。已有 EEG 相关工作尚未检索确认。

9月18日周三
  1. OpenReview · State space models78

    状态空间模型的参数高效微调

    基于摘要分析。本文研究 Mamba 等深度状态空间模型（SSMs）的参数高效微调（PEFT），重点比较现有方法的适用性及微调模块的选择，并提出 LoRA with Selective Dimension tuning（SDLoRA），将线性投影矩阵上的 LoRA 与 SSM 模块中部分通道和状态的选择性更新结合。 作者报告，在 SSM 模型上对四种基本 PEFT 方法进行经验评估后，prompt-based 方法（如 prefix-tuning）效果不佳，理论分析也支持这一观察；相比之下，LoRA 仍然有效。针对 LoRA 的应用位置，作者报告，理论与实验均支持仅将 LoRA 应用于线性投影矩阵、而不修改 SSM 模块的配置效果最好，直接以 LoRA 微调 SSM 模块则效果不佳。SDLoRA 并非在 SSM 模块中简单增加 LoRA，而是对其中部分通道和状态进行选择性更新，同时保留投影矩阵上的 LoRA。作者报告，该组合优于标准 LoRA，但摘要未提供具体任务、数据集、指标或增益幅度。 需核对的关键细节包括：四种 PEFT 方法的完整设置、通道与状态的选择规则、可训练参数预算及其匹配方式，以及理论结论的适用条件。实验协议、消融及统计信息尚未验证，不能据此判断其在不同模型规模或任务上的普适性。 平台推测（待验证）：若已有预训练 EEG SSM 编码器，该机制可能用于缓解跨被试适配中训练样本有限、全量微调成本较高的问题。可复用的是投影矩阵 LoRA 和 SSM 维度选择性更新的思路；需改造的是 EEG 输入映射、任务输出头及维度选择策略。其原始论证背景为语言建模中的 SSM，摘要未说明依赖的预训练规模或下游监督条件；低信噪比、通道配置变化和个体差异可能使所选维度不稳定。一个可证伪的小实验是在固定预训练编码器和 Cross-subject 划分下，以匹配的可训练参数预算比较投影矩阵 LoRA 与 SDLoRA，并检查多次运行的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：该研究通过经验比较与理论分析区分 SSM 模块和线性投影矩阵的微调适用性，为复现 Mamba 类模型的 PEFT 提供了具体切入点，但实验协议与性能增益尚待全文核对。

7月10日周三
  1. OpenReview · State space models78

    MambaByte：无分词的选择性状态空间模型

    基于摘要分析。MambaByte 研究直接从原始字节学习的 token-free 语言建模：去除子词分词的归纳偏置，却也使序列显著变长。其核心贡献是将 Mamba 状态空间模型（SSM）适配为在字节序列上自回归训练的语言模型，并设计结合 tokenized drafting 与 byte-level verification 的推测解码方案。 机制上，摘要将标准自回归 Transformer 随序列长度增长的有效内存需求，与 Mamba 的固定大小记忆状态和高效解码进行对比。MambaByte 利用后者应对字节级长序列；解码阶段由分词模型生成草稿，再进行字节级验证。具体状态更新、训练损失、草稿模型配置与验证规则尚未验证。 作者报告，在语言建模任务上，MambaByte 可与先进的子词 Transformer 竞争，部分比较中甚至表现更好，同时保留 token-free 模型对噪声的鲁棒性。作者报告，相对于标准 MambaByte 实现，其推测解码方案实现 2.6× 推理加速，解码效率接近子词 Mamba。摘要未提供数据集、模型规模、性能指标、硬件、批量大小及序列长度，因此这些效果与速度结论的适用范围，以及实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，固定大小状态的序列处理机制可能缓解长时程 EEG 建模的计算与内存压力，但原任务依赖离散字节及自回归监督，并不等价于连续、多通道 EEG。可考察复用 SSM 序列模块，输入表示、通道融合与任务输出需改造；字节级验证方案不能直接照搬。低信噪比、跨被试差异、通道变化与小数据训练可能削弱收益。一个可证伪的小实验是在同一 EEG 数据划分与匹配训练预算下，对比 SSM 与 Transformer 随输入时长变化的任务性能、峰值内存及推理耗时；仅降低资源消耗不能证明解码效果改善。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其以固定大小状态处理长字节序列、并结合 tokenized drafting 与 byte-level verification 加速解码的机制，但语言建模效果与效率结论仍需核对全文实验协议。

6月21日周五
  1. OpenReview · Representation learning72

    迈向高效的大规模语言-3D 表征学习

    基于摘要分析。该研究探索如何高效学习大规模 3D 对象与语言之间的跨模态表征，提出 MaskCL3D，结合 3D 点云、语言描述和多视角图像上的对比学习与掩码重建，并构建覆盖多类对象及描述的语言-3D 数据集。 机制上，对比学习用于跨模态表征学习，掩码重建提供补充学习信号；但摘要未说明具体对齐对象、掩码施加位置、重建目标、损失组合及推理流程，不能据此确定效率提升来自何种设计。其贡献同时涉及训练方法和数据资源，阅读全文时需核对两者的独立作用，以及训练与测试效率的衡量方式。 作者报告，在其评估的零样本分类和检索任务中，使用新数据集训练的模型优于使用其他数据集训练的模型，MaskCL3D 与新数据集的组合相较现有基线达到最先进性能；作者还报告，表征分析显示语言和 3D 表征包含丰富语义信息。摘要未提供数据集名称、规模、划分、基线、具体指标或数值，因此这些结论目前只能保留为作者的定性报告，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 与文本描述或刺激图像存在可靠配对，可假设跨模态对比学习与掩码重建的组合有助于学习语义相关表征，但 3D 对象上的结果不等于 EEG/BCI 效果。可复用的是学习目标的组合思路，需改造点云编码与重建模块以适应 EEG 时序和通道结构；低信噪比、跨被试差异及小规模配对数据可能导致模型学习刺激或被试特征，而非目标语义。一个可检验的小实验是在固定跨被试划分和相同数据预算下，比较仅对比学习与加入 EEG 掩码重建的模型，检查跨模态检索表现是否稳定改善。相关 EEG 工作尚未检索确认；代码、数据可用性及完整复现条件也尚未验证。

    阅读价值：值得核对 MaskCL3D 如何联合对比学习与掩码重建，以及方法改进和新数据集分别对零样本分类、检索及计算效率的贡献；摘要尚不足以分离这些因素。

5月2日周四
  1. OpenReview · State space models80

    状态空间模型的无状态推理：传递函数方法

    基于摘要分析。该研究面向深度学习中的序列建模，通过状态空间模型的对偶表示——传递函数——设计序列并行的无状态推理算法，旨在避免状态规模增大带来的显著内存与计算开销。其主要研究对象是通用序列建模，并非 EEG 或 BCI。 核心机制是对频域传递函数进行参数化，利用该表示的性质，通过一次 Fast Fourier Transform 直接计算对应卷积核的频谱。作者称，该推理算法的内存与计算成本不会随状态规模增加而显著增长；但摘要不足以确认其完整复杂度、适用条件，以及序列长度增长时的开销。参数化具体形式、训练目标和推理实现尚未验证。 作者报告，在 Long Range Arena benchmark 上，跨多个序列长度与状态规模的实验中，相比采用时域参数化的 S4 层，训练速度平均提升 35%；作者同时称，下游性能达到其他无注意力方法中的领先水平，但摘要未给出具体任务分数及比较范围。语言建模实验中，作者报告，仅引入该传递函数参数化即可相对长卷积 Hyena 基线改善 perplexity，具体数据集、数值与训练配置尚未验证。上述结果不能直接解释为在线流式推理加速或 EEG 解码收益。摘要提供了代码地址，复现仍需核对硬件、计时范围、模型配置、数据划分、消融及统计信息。 平台推测（待验证）：若 EEG 任务需要对较长时间窗进行序列建模，该频域卷积机制可能降低扩大状态规模的工程成本。可复用部分是传递函数参数化与卷积核频谱计算；需适配的部分包括多通道输入、采样率、时间窗及任务读出。其原始证据来自通用序列和语言建模，不能据此确定所需 EEG 数据规模或监督条件。低信噪比、跨被试分布变化、通道差异及小数据过拟合都可能使原领域收益无法迁移。一个可检验的小实验是在固定 EEG 数据划分下，分别按被试内与跨被试协议比较该方法与 S4，保持输入窗口、训练预算和硬件一致，同时记录任务指标、训练耗时及峰值显存。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其传递函数参数化如何降低大状态空间下的计算与内存开销，以及相对 S4 和 Hyena 的效率与性能收益是否在一致实验条件下成立；其 EEG/BCI 适用性尚未验证。

  2. OpenReview · State space models83

    状态空间模型中的状态幻象

    基于摘要分析。本文研究面向 LLM 的状态空间模型（SSMs）是否比 transformer 更擅长表达序列计算与状态跟踪，核心贡献是从计算复杂度角度分析其表达能力，并以 Mamba-style SSM 的状态跟踪实验补充理论论证。研究对象是通用序列模型，而非 EEG 解码或 BCI 系统。 作者指出，SSM 虽然在架构上接近 RNN、具有递归形式，但这并不自动赋予其更强的状态跟踪能力。作者报告，在论文所分析的设定下，SSM 的表达能力被限制在复杂度类 TC⁰ 内，与 transformer 存在相似限制，并据此讨论排列复合等状态跟踪问题的不可表达性。摘要进一步将这一限制关联到特定记谱方式下的棋步跟踪、代码求值和长叙事中的实体跟踪。由于未取得全文，精度、序列长度、模型规模及计算假设等理论适用条件尚未验证，不宜将结论泛化为所有 SSM 在任意条件下都无法完成这些任务。 实验方面，作者报告 Mamba-style SSM 在状态跟踪任务上存在困难；摘要未提供具体数据集、训练设置、对照基线或量化结果。实验协议、消融及统计信息尚未验证，因此目前只能确认作者报告的定性结论，不能判断失败程度或与其他架构的性能差距。 平台推测（待验证）：若某项 EEG/BCI 任务确实依赖离散状态的持续更新，而非主要依赖局部波形或频谱识别，本文可作为审视 SSM 架构选择的理论线索。但原文依赖的是抽象序列计算问题，不能直接推出低信噪比、跨被试或有限通道 EEG 上的效果；理论条件与实际解码任务的对应关系仍需评估，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读之处在于作者将 SSM 的递归形式与状态跟踪表达能力区分开来，并以复杂度分析和 Mamba-style SSM 实验检验这一差异；理论结论的适用假设需结合全文核对。

3月9日周六
  1. OpenReview · Representation learning61

    使用文本编码器进行日常活动数据的表征学习

    基于摘要分析。该研究面向远程健康监测中的时间序列表征学习，以痴呆症患者的居家活动记录为对象，将活动转换为文本字符串，再使用语言模型编码，目标是支持参与者与日期层面的聚类、向量检索及活动偏离识别，辅助个性化护理。 核心机制是微调语言模型，使同一参与者在30天窗口内的数据映射到相近的向量表征。这里的30天是表征相似性约束的时间范围，不能据此推断训练集长度或评估划分。摘要未说明活动如何文本化、采用何种语言模型、具体损失形式，以及如何区分正常日间变化与具有护理意义的异常。作者描述了聚类、向量检索和偏离识别用途，但摘要未提供定量结果；数据规模、参与者数量、对照基线、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是将结构化时序信息文本化，并利用个体与时间关系构建表征监督，而非直接把语言模型用于原始EEG。对应EEG中的跨会话表征问题，可探索把信号特征或事件序列转换为文本，再复用文本编码器与时间邻近约束；文本化规则、通道信息表达及时间窗口需要改造。风险在于文本化可能丢失低信噪比信号中的细粒度信息，同一被试的邻近记录也未必具有相同任务状态，过度拉近可能压缩有效类别差异；小数据条件下还可能主要学到被试身份。 一个可检验的小实验是，在具有多会话记录的EEG数据上，以严格分离的会话评估文本化特征编码，比较不微调与加入同一被试时间邻近约束的版本，同时检查任务可分性与被试身份可分性，检验该约束是否改善跨会话表征而不抹平任务差异。此方案属于迁移假设，不是论文已验证的EEG结果；已有相关EEG工作尚未检索确认。

1月16日周二
  1. OpenReview · Representation learning76

    理解 CLIP 中的可迁移表征学习与零样本迁移

    基于摘要分析。本文研究 CLIP 如何通过视觉—语言对比预训练学习可迁移的联合表征，以及这些表征为何能支持下游零样本迁移；贡献包括跨模态特征对齐的形式化分析、零样本迁移性能分析，以及由理论分析启发的新 CLIP-type 方法。 机制与证据：CLIP 利用图像与文本两种模态的对比预训练学习联合表征。本文围绕不同模态的特征如何对齐展开理论研究，并以真实数据实验支持理论分析。摘要未提供理论假设、对齐的数学定义、性能界或新方法的具体改动，因此尚不能判断其结论依赖何种数据结构、监督条件与训练规模，也不能将其归纳为某种具体损失或网络结构。 结果与核验：作者报告，新 CLIP-type 方法在基准数据集上优于 CLIP 及其他当时的先进方法。摘要没有给出数据集名称、任务、划分、指标或提升幅度；实验协议、消融及统计信息尚未验证。复现需进一步核对预训练数据、对照模型、零样本提示与评估设置，以及实现和计算资源要求。 平台推测（待验证）：跨模态对齐分析可能为 EEG 与文本或其他模态的联合表征研究提供理论视角，但这是迁移假设，不是本文已验证的 BCI 结果。可借鉴的是对齐与迁移的分析思路；EEG 编码、配对语义和时序聚合需另行设计，低信噪比、跨被试差异、通道配置与小样本可能削弱对齐效果。由于具体方法和理论条件尚不明确，目前不宜据此制定方法级复现实验；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其对 CLIP 跨模态特征对齐与零样本迁移的理论分析，但新方法的性能优势及其对 EEG 的适用性仍需结合全文与实验协议核验。

  2. OpenReview · Representation learning75

    大规模代码表征学习

    基于摘要分析。本文研究源代码表征学习，针对既有工作多采用亿级参数模型、预训练语料有限的问题，提出利用大量代码数据的两阶段预训练方案，目标是获得可直接用于多种下游任务的编码器，而非专门研究 EEG 或 BCI。 第一阶段结合掩码语言建模的随机性与编程语言的隐式结构、语义信息训练编码器；第二阶段通过无监督构造的难负样本和难正样本进行对比学习，进一步增强表征。摘要还提到面向源代码定制的 token 级去噪方案，以及用于提升跨语言语义搜索的 bimodal contrastive learning，但未说明具体去噪操作、样本构造规则或两种模态的定义，不能据此补写损失形式和模型结构。 作者报告，所获编码器在多种下游任务上持续优于现有模型，且提升幅度较大；摘要未提供任务清单、数据集、划分、基线或具体指标，因此尚不能量化或独立核对这一结论。作者称开展了详细消融，分析定制去噪、难正与难负样本、双模态对比学习，以及预训练方案如何影响下游性能随模型规模变化的规律。实验协议、消融细节及统计信息尚未验证，实际模型规模、语料规模和复现条件也需查阅全文。 平台推测（待验证）：可迁移的机制假设是“结构感知去噪加难样本对比学习”可能有助于缓解 EEG 表征预训练中随机掩码未充分利用时空结构的问题，但编程语言结构与 EEG 生理结构并不等价。可复用两阶段训练思路，需重新定义 EEG 的掩码单位、结构先验及正负样本关系；低信噪比、跨被试差异、通道配置变化和小数据规模可能导致难样本实际反映噪声或被试身份。一个可检验的小实验是在固定 EEG 数据划分、编码器与训练预算下，对照随机掩码、结构感知掩码及加入难样本对比学习的方案，比较相同跨被试协议下的下游表现，并核对错误正负配对的影响。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其源码 token 级去噪与无监督难正、难负样本构造的消融分析，以核对两阶段预训练如何影响代码表征及模型规模收益；对 EEG 的适用性尚未验证。

1月1日周一
  1. OpenReview · State space models79

    LOCOST：用于长文档抽象式摘要的状态空间模型

    基于摘要分析。本文研究长文档抽象式摘要，提出基于状态空间模型的编码器—解码器架构 LOCOST，用于长上下文输入下的条件文本生成，主要贡献是以较低计算复杂度处理长序列，并探索摘要质量与内存开销之间的权衡。 核心机制：作者以状态空间模型替代长序列编码中的高成本处理，旨在捕捉长期依赖，并给出 O(L log L) 的计算复杂度，其中 L 为序列长度。摘要未展开编码器与解码器的具体结构、条件信息交互方式、损失函数及训练配置，不能据此认定其完全不使用注意力。 结果：在一系列长文档抽象式摘要任务中，作者报告，LOCOST 的表现达到同等规模、表现最佳的稀疏 Transformer 的 93–96%，训练内存最高节省 50%，推理内存最高节省 87%。这些数值是摘要中的相对表现与最高节省幅度，并非准确率或百分点变化；具体指标、数据集、输入长度、硬件与对照配置尚未验证。作者还报告，模型在推理时可处理超过 600K tokens 的输入，并声称在整本书摘要任务上取得新的最佳结果，其比较范围与评估细节需由全文核对。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，状态空间序列处理机制可能降低长时程 EEG 建模的内存开销，但原研究对象是文本摘要，不是 BCI。迁移需要将离散 token 输入改为多通道 EEG 时序表征，并重新设计任务输出与监督；潜在可复用的是长序列处理模块，而非直接沿用文本生成目标。低信噪比、跨被试差异、通道配置变化及小数据条件可能削弱长期依赖建模收益。一个可证伪的小实验是在同一 EEG 数据、固定跨被试划分及相同输入时长下，对比状态空间模块与注意力基线，分别测量任务指标、峰值内存和推理耗时，检验资源优势是否伴随可接受的性能变化。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其状态空间编码器—解码器如何权衡长上下文摘要质量与内存开销，但摘要不足以核验超长输入的评估协议，其对 EEG 长序列建模的价值尚未验证。

  2. OpenReview · State space models78

    GrootVL：树拓扑是状态空间模型所需的一切

    基于摘要分析。GrootVL 研究状态空间模型中序列几何约束对长程依赖建模的限制，提出依据空间关系和输入特征动态构建树拓扑，并沿该图传播特征，以突破原有序列传播约束。其主要研究对象是视觉与文本任务，而非 EEG 或 BCI。 机制上，方法将特征传播的组织结构由序列改为输入依赖的树，并引入动态规划算法。作者报告，该算法具有线性复杂度，可在不增加计算成本的情况下增强长程交互；这一说法的复杂度计量对象、建树开销及实际运行条件尚未验证。相对于既有结构化状态空间模型，摘要强调的创新是传播拓扑及其高效计算方式，而非仅扩大模型规模。 作者报告，在图像分类、目标检测和分割实验中，GrootVL 显著优于既有结构化状态空间模型；通过微调大语言模型，也在多项文本任务上以较小训练成本取得一致改进。摘要未提供数据集、划分、指标数值、具体基线或训练预算，不能据此量化增益或跨协议比较。树的生成规则、传播方程、训练目标、实验协议、消融及统计信息尚未验证，复现所需实现与资源条件也需查阅全文。 平台推测（待验证）：若 EEG 通道空间关系与输入特征能够形成稳定且有用的树结构，该机制可能为长程时间依赖和跨通道交互提供另一种传播路径；这是迁移假设，不是本文已证实的效果。可考虑复用树上动态规划，改造 EEG 时间片段与通道的节点表示及建树规则。低信噪比可能使动态拓扑不稳定，跨被试差异、通道配置变化和小数据训练也可能削弱效果。一个可检验的小实验是在同一 EEG 数据集、固定跨被试划分及相近训练预算下，对照序列传播、固定树和动态树，比较任务指标、运行时间与拓扑稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其输入依赖树拓扑与线性复杂度动态规划如何改善长程交互，但摘要不足以验证复杂度条件、性能增益及其对 EEG 的适用性。

  3. OpenReview · State space models78

    LOCOST：用于长文档抽象式摘要的状态空间模型

    LOCOST 面向长文档抽象式摘要，提出基于状态空间模型的编码器—解码器架构，以较低计算复杂度处理长上下文条件文本生成。基于摘要分析，未取得论文全文。 核心机制是利用状态空间模型编码长序列并捕捉长期依赖，作为注意力架构的替代方案。摘要给出的计算复杂度为 O(L log L)，但未说明具体状态更新、编码器与解码器交互方式、训练目标及复杂度核算范围，相关实现细节尚未验证。 作者报告，在一系列长文档抽象式摘要任务中，LOCOST 的表现达到同等规模、表现最佳的稀疏 Transformer 的 93–96%；该比例是相对表现描述，并非 Accuracy，摘要未提供具体指标、数据集及逐项结果。作者同时报告，训练内存最多节省 50%，推理内存最多节省 87%，但对应输入长度、批大小、硬件及对照配置尚未验证。作者报告，模型在推理时可处理超过 600K tokens 的输入，并在整本书摘要任务上取得新的最优结果；该结论的评估协议与基线范围仍需全文核对。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：状态空间模型的长序列编码机制可能对应连续 EEG 建模的内存瓶颈，但文本摘要有效不等于 BCI 有效。迁移需要将文本输入与摘要监督改为多通道信号表示及任务监督；可考虑复用序列编码思想，而非直接照搬文本生成系统。低信噪比、通道差异、跨被试变化和小数据训练均可能削弱收益。一个可检验的小实验是在固定被试划分与训练预算下，对比状态空间编码器和注意力基线随 EEG 窗口长度变化的任务指标及峰值内存。相关已有 EEG 工作尚未检索确认。

    阅读价值：值得核对 LOCOST 在长文档条件生成中对摘要质量与内存开销的权衡，但其超长输入结果及向 EEG 长序列建模的迁移价值仍需分别验证。

  4. OpenReview · Representation learning57

    可解释的财报电话会议表征学习（学生摘要）

    基于摘要分析。该研究面向冗长、复杂的财报电话会议转录文本，提出利用文本结构信息提取关键内容、并通过变分信息瓶颈赋予表征可解释性的模型，以应对自动编码可靠性与金融领域特定要求带来的挑战。 核心机制是将转录文本的结构信息用于表征学习，并引入变分信息瓶颈。摘要未说明结构信息如何定义和编码、信息瓶颈的具体目标与优化方式，以及解释输出的形式，因此尚不能判断其解释属于内容筛选、特征归因还是其他机制，也不能将引入信息瓶颈直接视为解释忠实性的证据。 作者报告，该方法在两个下游金融任务的实验中展示了有效性；摘要未提供任务名称、数据集、数据划分、对照基线、评价指标或数值结果，故无法评估收益幅度与适用范围。实验协议、消融及统计信息尚未验证，代码与复现条件亦尚未验证。 论文的主要研究对象是金融文本，而非 EEG 或 BCI。摘要没有提供可解释表征与神经信号瓶颈之间的具体对应机制，现阶段不据此提出 BCI 迁移效果或复现实验建议；已有 EEG 相关工作尚未检索确认。

  5. OpenReview · State space models80

    深度选择性状态空间模型的理论基础

    基于摘要分析。本文研究深度选择性状态空间模型（SSM）的表达能力，核心贡献是借助 Rough Path Theory，为输入与隐藏状态之间具有乘性交互的线性递推提供理论解释，而非提出或验证 EEG/BCI 专用模型。 核心机制：作者报告，当随机线性递推配备简单的输入控制状态转移，即选择性机制时，其隐藏状态可被证明是输入 signature 的低维投影。signature 是刻画路径信息的数学对象；摘要强调，该联系能够解释模型如何捕获不同时刻、不同时间尺度上输入 token 之间的非线性交互。论文据此为 Mamba 等选择性 SSM 的表达能力提供解释，并为分析未来 SSM 变体提供框架。具体定理假设、投影与近似条件、输入路径要求及误差界尚未验证。 创新与证据边界：摘要以 S4 为结构化 SSM 背景，并列举 GateLoop、Mamba、GLA 作为具有相关乘性交互机制的例子。摘要提到此类架构在十亿参数规模文本模型中的准确性与效率优势，但未给出本论文对应的实验协议或数值，不能将这一背景陈述视为本文完成的性能验证。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：假设输入控制的状态转移能够根据 EEG 时序内容调节信息保留，它可能为长时依赖与多时间尺度动态建模提供机制参考；原领域理论成立不等于 BCI 有效。可复用的是选择性递推及其表达能力分析视角，需改造的是连续多通道 EEG 的输入编码、采样尺度与状态读出。低信噪比可能使选择性机制响应伪迹，跨被试分布差异、通道配置变化及小数据训练也可能限制收益。一个可检验的小实验是在固定 EEG 任务、被试内划分和匹配训练预算下，比较输入控制递推与固定转移递推，并测试加入噪声后收益是否保持。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读之处是作者用 Rough Path Theory 将输入控制的状态转移与输入 signature 的低维投影联系起来，为理解选择性 SSM 的表达能力提供理论框架，但其 EEG/BCI 适用性尚未验证。

  6. OpenReview · Representation learning73

    像素句子表征学习

    基于摘要分析。本文研究句子与文档级文本语义表征，提出视觉句子表征学习框架，尝试绕开传统语言模型中离散子词单元对语义保持扰动的限制；主要研究对象是文本语义，而非 EEG 或 BCI。 核心思路是把句子语义学习视为视觉表征学习过程，使用拼写错误、词序打乱等视觉关联的文本扰动，使输入变化能够被作为连续变化处理。框架进一步结合大规模无监督主题对齐训练与 natural language inference（自然语言推理）监督。因而，摘要虽将视觉表征框架描述为无监督方法，完整训练路径仍包含明确的监督信号，不能将全部训练概括为纯无监督。文本的具体视觉编码方式、正样本对构造约束、损失函数及各训练阶段的衔接尚未验证。 在 semantic textual similarity（STS，语义文本相似度）评估中，作者报告该方法取得与现有最先进 NLP 方法相当的表现，并报告零样本跨语言迁移能力及迭代训练中跨语言表现的“跃迁式”模式。摘要未给出数据集、语言范围、评价指标、数值或对照基线，不能据此量化优势或判断不同语言间的稳定性。作者还声称这是首个不依赖传统语言模型、用于理解句子与文档语义的表征学习方法，该优先性主张尚未独立核验。 摘要提供了代码链接，但实现完整性、训练数据规模与复现成本尚未核对；实验协议、消融及统计信息尚未验证。现有材料没有建立文本视觉扰动与 EEG 信号增强之间的具体对应关系，因此不将其表述为已验证的 BCI 方法，也不据此提出 EEG 复现实验；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体原因是其将句子语义学习转化为视觉表征学习，探索绕开离散分词限制的文本扰动路径；其对 EEG/BCI 的适用性尚未验证。

  7. OpenReview · State space models72

    Q-S5：迈向量化状态空间模型

    基于摘要分析。该研究面向通用序列建模与资源受限部署，考察量化对状态空间模型 S5 性能的影响，并通过量化感知训练（QAT）和训练后量化（PTQ）评估不同任务与模型组件的量化敏感性；其主要贡献是提供全量化 S5 的可行性证据及组件精度选择依据，而非提出已验证的 EEG/BCI 方法。 技术与结果：评估任务包括动力系统建模、Sequential MNIST（sMNIST）及 Long Range Arena（LRA）中的大多数任务。作者报告，全量化 S5 在 sMNIST 和多数 LRA 任务上的测试 Accuracy 降幅小于 1%；摘要未明确该降幅是相对百分比还是绝对百分点，也未给出对应位宽组合、数据划分与逐任务结果。作者报告，多数任务中循环权重低于 8-bit 精度时性能显著下降，而其他组件可进一步压缩且无显著性能损失。作者还报告，PTQ 仅在基于语言的 LRA 任务上表现良好，其余所评估任务需要 QAT。量化格式、训练细节、对照基线、消融及统计信息尚未验证；实际硬件上的延迟、内存与能耗收益也尚未验证。 平台推测（待验证）：迁移假设是，若采用 S5 建模 EEG 时序，保留循环权重较高精度、对其他组件采用更低精度，可能有助于平衡边缘部署成本与解码性能。可复用的是 QAT/PTQ 比较及组件级精度评估思路；需针对 EEG 的通道布局、采样率、归一化和任务输出进行适配。原研究依赖序列任务数据及相应训练与测试协议，其所需数据规模和监督细节尚未验证。EEG 的低信噪比、跨被试分布差异、通道变化及小数据训练可能放大量化误差，原任务结果不能直接视为 BCI 有效性证据。 可检验的小实验：在固定划分的 EEG 任务上，以全精度 S5 为基线，对照 PTQ 与 QAT，并分别改变循环权重和其他组件的精度；在同一被试内或跨被试协议下报告 Accuracy 变化及目标硬件开销，以检验组件敏感性是否重现。已有 EEG 相关工作尚未检索确认。

    阅读价值：该研究通过 QAT 与 PTQ 比较揭示 S5 不同组件的量化敏感性，为资源受限平台部署提供了可核对的精度配置线索，但其 EEG/BCI 适用性尚未验证。

  8. OpenReview · State space models59

    DualKanbaFormer：用于多模态方面级情感分析的 Kolmogorov-Arnold Networks 与状态空间模型 Transformer

    基于摘要分析。该研究面向多模态方面级情感分析（MABSA），旨在结合文本与图像识别特定方面的情感，处理文本中方面与观点目标之间的长程依赖，以及视觉表示的全局上下文依赖。作者提出 DualKanbaFormer，将 Kolmogorov-Arnold Networks（KANs）、选择性状态空间模型 Mamba 和 Multi-head Attention（MHA）结合，并通过门控融合层整合两种模态。 机制上，作者将 Mamba 用于捕获全局上下文依赖，将 MHA 用于捕获局部上下文依赖，将 KANs 用于非线性模式建模；这些组件分别构成 textual KanbaFormer 与 visual KanbaFormer，再由门控融合层捕获跨模态动态。摘要提供了组件的功能分工，但其具体连接方式、输入编码、损失函数、训练流程及推理开销尚未验证。 作者报告，在两个公开数据集上的实验中，模型优于部分已有 SOTA 研究。摘要未提供数据集名称、划分协议、对照方法、指标或具体数值，因此不能据此判断增益幅度或各组件的独立贡献；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移假设是，全局依赖建模、局部特征建模和非线性变换的分工可能用于 EEG 时序表示，但原任务依赖文本—图像配对及方面级情感监督，并非神经信号解码。可考虑复用组件组合思路，EEG 输入编码、时间与通道组织、监督目标及融合对象则需改造；低信噪比、跨被试分布差异、通道变化和小数据可能使复杂组件的收益消失。一个可证伪的小实验是在固定 EEG 数据划分和训练预算下，对比 Mamba 基线与加入 MHA、KANs 的变体，分别评估被试内和跨被试表现及计算开销。该建议不是已验证的 BCI 结论，相关 EEG 工作尚未检索确认。

  9. OpenReview · Representation learning75

    大规模代码表征学习

    基于摘要分析。该研究面向源代码表征学习，针对既有工作通常在约一亿参数规模、有限预训练语料上训练的问题，提出利用大量代码数据的两阶段预训练方案，构建可直接用于下游任务的编码器；研究对象是代码，而非 EEG 或 BCI。 第一阶段将随机掩码语言建模与编程语言结构信息结合，用于训练编码器；第二阶段通过对比学习增强表征，其中难正样本与难负样本以无监督方式构造。摘要未给出结构信息的编码方式、样本构造规则、损失形式或两阶段训练配比。作者还讨论了定制的 token 级去噪、难正负样本的重要性、双模态对比学习对跨语言语义搜索的作用，以及预训练方案如何影响下游性能随模型规模变化的规律；双模态的具体组成尚未验证。 作者报告，该编码器在多种下游任务上持续优于既有模型，且优势较大，并通过详细消融分析相关因素。但摘要未提供具体数据集、划分协议、基线名称、指标或分数，因此不能量化收益或判定不同任务间的可比性。预训练语料规模、模型配置、实验协议、消融细节及统计信息尚未验证，代码与权重的可用性也尚未确认。 平台推测（待验证）：可迁移的假设是，将领域结构约束融入掩码建模，再以难样本对比学习优化表征，可能有助于 EEG 自监督学习，但代码的离散语法结构并不直接对应连续、低信噪比的神经信号。可复用的是两阶段训练思路；需重新设计 EEG 的时空掩码及正负样本定义，避免把被试或通道差异误当作任务语义。小数据、跨被试差异和噪声可能导致伪正样本或伪负样本。一个可检验的小实验是在固定 EEG 数据划分和编码器条件下，对比随机掩码、时空结构掩码，以及加入难样本对比学习后的跨被试表现，检验增益是否稳定。上述为迁移假设，不是论文结果；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其结合代码结构的两阶段预训练及难正、难负样本构造消融，以核对表征学习收益的来源，但其对 EEG 的适用性尚未验证。

  10. OpenReview · State space models71

    RSCaMa：基于状态空间模型的遥感图像变化描述

    基于摘要分析。本文研究 Remote Sensing Image Change Captioning（RSICC），目标是用语言描述两个时相遥感图像之间的地表变化，包括对象类别、位置及新增或消失等变化。作者提出 RSCaMa，通过多个 CaMa 层迭代细化双时相特征，以联合建模空间变化和时相间关系；研究对象是遥感图像，并非 EEG 或 BCI。 空间建模方面，作者引入具有全局感受野与线性复杂度的 Mamba，并提出 Spatial Difference-aware SSM（SD-SSM），增强对空间变化的感知。时间建模方面，Temporal-Traversing SSM（TT-SSM）以时相交叉方式扫描双时相特征，促进两个时相之间的信息交互。摘要未给出差异信息的具体注入方式、扫描顺序、损失函数及训练配置，相关实现尚未验证。 作者报告，实验支持联合时空建模的有效性及 RSCaMa 在 RSICC 上的性能表现，并系统比较了 Mamba、GPT-style decoder 与 Transformer decoder 三类语言解码器。摘要未提供数据集、划分、评价指标、具体分数或计算资源，因此无法核对优势幅度及效率收益；实验协议、消融及统计信息尚未验证。摘要称代码将公开，但当前可用性与复现条件尚未验证。 平台推测（待验证）：若将两个 EEG 时间窗表示为可比较的特征序列，差异感知与交叉扫描可能用于建模状态变化，而非直接迁移遥感语言描述任务。可复用候选是状态空间交互模块，需改造输入编码、通道与时间顺序及任务输出；遥感空间结构不等同于 EEG 通道结构，低信噪比、跨被试差异和小样本可能使差异特征主要反映噪声。一个可检验的假设是：在同一 EEG 数据划分及近似参数预算下，交叉扫描相比独立扫描能改善状态变化识别，可通过替换扫描方式并加入噪声扰动检验。该假设不构成已证实的 EEG/BCI 效果，已有相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其差异感知空间建模与双时相交叉扫描机制，以及三类语言解码器的对照；摘要尚不足以验证性能优势或 EEG/BCI 迁移价值。

  11. OpenReview · EEG72

    通过预训练对比式 EEG–文本掩码自编码器的可迁移表征增强 EEG-to-Text 解码

    基于摘要分析。本文研究从非侵入式 EEG 重建自然语言，提出 Contrastive EEG-Text Masked Autoencoder（CET-MAE），结合跨模态自监督学习与模态内自重建；进一步构建 E2T-PTR（EEG-to-Text decoding using Pretrained Transferable Representations），将预训练 EEG 表征与 BART 对接以生成文本。 机制上，CET-MAE 通过专用多流编码器组织 EEG 与文本之间的跨模态学习，以及 EEG 特征或文本序列的模态内重建。E2T-PTR 利用预训练模块及 CET-MAE 的 EEG 流，将表征迁移至 EEG-to-Text 解码。摘要未提供具体掩码策略、对比目标、损失权重、模块冻结或微调方式，因此这些实现条件尚未验证。其主要研究价值在于联合表征学习与语言生成，而非仅依赖单一 EEG 编码任务。 作者报告，在文本诱发 EEG 数据库 ZuCo 上，E2T-PTR 相较文中所称的最先进方法，ROUGE-1 F1 与 BLEU-4 分别提高 8.34% 和 32.21%。摘要未说明这些百分比的计算口径、具体对照方法或绝对分数，不能将其解读为百分点提升；也未明确被试内、跨被试或其他划分协议，因而暂不能据此判断泛化能力。 复现与评估需核对 EEG–文本配对和预处理方式、预训练与下游数据的划分、BART 的训练及推理条件，以及各预训练组件的消融贡献。ZuCo 中的文本诱发 EEG 解码结果不等同于自由意图表达或在线 BCI 的有效性；还需区分 EEG 信息贡献与语言模型先验贡献。实验协议、消融及统计信息尚未验证。

    阅读价值：值得阅读的具体原因是 CET-MAE 将 EEG–文本跨模态对比学习与模态内掩码重建结合，并通过 E2T-PTR 对接 BART，可用于考察预训练表征对 EEG-to-Text 解码的贡献，但性能增益的评估协议与归因尚未验证。

  12. OpenReview · State space models80

    状态空间模型的无状态推理：传递函数方法

    基于摘要分析。本文研究深度学习状态空间模型的高效序列计算，通过其对偶表示——传递函数——设计频域参数化，并提出无需显式状态的序列并行推理算法。核心贡献是直接计算对应卷积核的频谱，降低状态规模增大带来的计算与内存开销。 机制上，作者利用所提出的频域传递函数参数化性质，通过一次 Fast Fourier Transform（FFT）得到对应卷积核的频谱。作者称，无状态推理不会随着状态规模增加而产生显著的额外内存或计算成本；这一表述不等于整体计算成本为零，也不能据此认定其支持同样高效的逐样本在线推理。参数化的具体形式、数值稳定性及训练与推理的实现细节尚未验证。 结果方面，作者报告：在 Long Range Arena 上，跨多个序列长度与状态规模的实验中，相对采用时域参数化的 S4 层，平均训练速度提升 35%，并在所比较的无注意力方法中取得作者所称的领先下游表现。摘要未提供具体任务分项、绝对分数、硬件与计时条件，不能据此比较不同协议的性能。作者还报告，在语言建模中，仅引入该传递函数参数化即可相对长卷积 Hyena 基线改善 perplexity，但未给出数值。摘要提供了代码地址；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，若 EEG 长序列建模确实受状态规模相关开销限制，该参数化与卷积计算模块可能具有复用价值，但仍需适配多通道输入与任务监督。低信噪比、通道差异和小样本可能使计算优势无法转化为解码收益。可在固定数据划分、输入长度、硬件与训练预算下，对照 S4 比较训练吞吐量、峰值显存及同一任务指标，并随序列长度与状态规模变化检验该假设；这不是已证实的 BCI 效果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其传递函数参数化如何降低大状态规模下的序列并行计算开销，以及作者报告的相对 S4 训练提速能否在相同实现与评估条件下复现；其对 EEG 长序列建模的价值尚未验证。

  13. OpenReview · State space models70

    替代 Transformers 的新一代网络状态空间模型：综述

    基于摘要分析。本文围绕 Transformer 的高计算需求，综述状态空间模型（State Space Model，SSM）作为自注意力架构替代方案的研究进展，主要贡献是梳理基本原理、现有模型及应用，并提供实验比较与统计分析。作者将其称为该方向的首个全面综述，但这一优先性声明尚未独立核实。 综述覆盖自然语言处理、计算机视觉、图、多模态与多媒体、点云／事件流、时间序列等领域，试图说明不同 SSM 结构在不同任务中的特点与有效性，并提出理论及应用层面的后续研究方向。摘要没有列出具体模型、状态更新机制、训练目标或复杂度表达式，因此不能据此确定各类 SSM 如何降低计算成本，也不能将其统一视为性能优于 Transformer 的方案。 作者报告提供了实验比较和统计分析，但摘要未给出数据集、数据划分、对照基线、指标或数值结果；实验协议、消融及统计信息尚未验证。阅读全文时应重点核对效率比较的序列长度与硬件条件，以及性能和计算成本是否在一致设置下评估。摘要附有持续更新相关工作的 GitHub 清单，这不等同于提供全部比较实验的实现、配置或复现脚本。 原论文的主要对象是通用序列建模架构综述，而非 EEG 解码或 BCI 验证。材料仅明确提及时序数据应用，尚不足以建立具体的 EEG 迁移机制，因此不据此提出迁移效果或复现实验建议；已有 EEG 相关工作尚未检索确认。

    阅读价值：该综述汇总 SSM 的原理、结构与跨领域应用，并提供实验比较，可作为评估高效序列建模方案的阅读入口，但其对 EEG/BCI 的适用性尚未验证。