跳到正文

算法、任务与模态

Foundation Model 最新动态

Foundation Model 研究索引；按可核对的标签归档，不以热度评价质量。

186 条精选近 30 天 87 条共收录 215 条

更新

精选归档 · 第 10 页

1月1日周一第 181–186 条
  1. OpenReview · State space models73

    Time-SSM：简化并统一用于时间序列预测的状态空间模型

    基于摘要分析。本文研究状态空间模型（SSMs）在时间序列预测中的应用，提出名为 Dynamic Spectral Operator 的理论框架，旨在避免仅将 SSM 视为捕捉时间或通道依赖的黑箱，并据此构建用于时间序列预测的基础模型 Time-SSM。 机制与贡献：摘要将 SSM 描述为通过一组基函数近似连续系统，再经离散化处理采样数据的方法；这一建模方式与按特定频率采集的时间序列相契合。作者希望通过 Dynamic Spectral Operator，为 SSM 如何作用于时间序列提供更直观、通用的理论指导。但摘要未给出该算子的数学定义、动态性来源、离散化方式，以及 Time-SSM 的具体结构、训练目标和预训练设置，尚不能判断理论与实现之间的完整对应关系。 结果与证据边界：作者报告 Time-SSM 的参数量仅为所比较 Mamba 的七分之一，并称多项实验支持理论框架及模型的性能优势。摘要未说明所比较 Mamba 的配置、预测任务、数据集、划分协议、基线或评价指标，因此这一参数比例只能保留在作者所述比较背景下，不能推出同等训练预算下的性能或效率优势。实验协议、消融及统计信息尚未验证；复现还需核对全文中的模型配置、训练流程与实现可用性。 平台推测（待验证）：其连续系统近似与离散采样建模机制，可能与 EEG 时序预测中的长程动态建模需求对应，但原论文的主要研究对象是通用时间序列预测，并非 EEG/BCI。可考虑复用状态演化与离散化模块，同时改造 EEG 多通道输入和预测输出；该假设依赖等间隔采样及足量时序训练数据。低信噪比、伪迹、跨被试动态差异、通道变化和小数据条件均可能削弱效果。一个可证伪的小实验是在固定被试内时序划分与相同预测窗口下，比较 Time-SSM、Mamba 和简单时序基线的 EEG 预测误差，并核对参数量及训练预算；该实验不能替代 BCI 解码验证。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其 Dynamic Spectral Operator 如何为时间序列中的 SSM 建模提供统一理论解释，并核对 Time-SSM 相对 Mamba 的参数比较与预测性能评估条件；其 EEG/BCI 适用性尚未验证。

  2. OpenReview · State space models78

    理解基础模型的差异：注意力、状态空间模型与循环神经网络

    基于摘要分析。本文研究基础模型中 softmax attention、线性注意力、State Space Models（SSMs）与 Recurrent Neural Networks（RNNs）的共同原理及差异，提出 Dynamical Systems Framework（DSF），将这些架构置于统一表示中，以分析其性能与可扩展性相关的理论性质。 研究动机是 softmax attention 随序列长度呈二次增长的计算复杂度可能限制长上下文推理吞吐量，而替代架构虽然存在联系，却常被独立开发。DSF 的主要贡献是提供统一比较框架，而非仅提出一种替换注意力的新模型。作者报告，该框架揭示了线性注意力与选择性 SSMs 的差异及二者等价的条件，并讨论了 softmax attention 可被其他模型类别近似的理论条件；作者还报告以数学论证和经验验证支持这些分析。摘要未提供具体等价条件、近似误差界、实验任务、数据集、对照基线或定量结果，实验协议、消融及统计信息尚未验证，不能据此认定某类架构普遍优于另一类。 平台推测（待验证）：其潜在 EEG 关联在于长时间序列建模中的计算开销与历史信息保留之间的权衡，而不是已验证的 BCI 效果。假设 DSF 的比较条件可用于分析 EEG 序列编码器，则可复用统一动力系统表示与架构比较思路；需根据多通道输入、采样方式和任务监督改造输入表示及输出模块，并核对理论条件对状态维度、序列结构和近似精度的依赖。低信噪比、通道差异、跨被试分布变化及小数据训练可能使原领域的效率或表达能力优势无法转化为解码收益。 一个可检验的小实验是在同一 EEG 任务与固定跨被试划分下，统一预处理、训练预算和输出头，比较线性注意力与选择性 SSMs 随输入序列长度变化的任务指标、推理吞吐量和显存占用，以检验其效率差异是否伴随解码性能变化；这属于迁移假设，不是论文已报告的实验。已有 EEG 相关工作尚未检索确认，复现原论文仍需取得全文中的理论假设、实现细节与评估协议。

    阅读价值：值得阅读其以 Dynamical Systems Framework 统一比较注意力、SSMs 与 RNNs 的理论路径，尤其是线性注意力与选择性 SSMs 的等价条件，但具体条件与经验验证协议仍需核对全文。

  3. OpenReview · State space models80

    Large Concept Models：句子表示空间中的语言建模

    该研究探索不同于 token 级生成的语言建模方式：将句子视为高层语义“概念”，在句子嵌入空间中进行自回归预测，构建 Large Concept Model（LCM）。基于摘要分析，未取得论文全文；研究主要对象是文本与语音的语义生成，而非 EEG 或 BCI。 核心机制是使用现有 SONAR 句子嵌入空间表示概念。摘要称 SONAR 支持文本与语音模态，语言覆盖最多达 200 种；这不等于 LCM 已在全部语言与模态上完成验证。作者探索了 MSE 回归、基于扩散的生成变体，以及在量化 SONAR 空间中运行的模型。其关键区别是预测句子级表示，而非直接逐 token 生成；“概念对应句子”是本研究的可行性验证设定，不应理解为已建立任意抽象概念的通用表示。 作者在 1.6B 参数、约 1.3T tokens 训练数据规模下开展上述方法探索，并将其中一种架构扩展至 7B 参数、约 2.7T tokens 的训练规模。评估任务包括 summarization 与新提出的 summary expansion。作者报告模型在多种语言上具有零样本泛化能力，并优于同等规模的现有 LLMs；摘要未给出具体语言、数据集、指标、分数与基线名称，因此无法判断优势幅度及不同协议下的可比性。作者称训练代码已公开，具体依赖、权重可用性、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可考察的跨领域假设是，以高层语义表示作为 EEG 到语言解码的中间目标，减少直接预测长 token 序列的负担。但原研究依赖句子语义空间与大规模语言数据，并未验证神经信号能否稳定映射到该空间。可能可复用 SONAR 表示及句子级生成模块，需另行建立 EEG 编码器、时间对齐与监督机制；低信噪比、跨被试差异、通道变化及小样本可能使语义对齐失败。一个可证伪的小实验是在已有 EEG—句子配对数据上，固定句子表示与生成模块，对比语义表示预测和直接文本解码，并采用一致的被试划分及评价指标。已有 EEG 相关工作尚未检索确认，此建议不是已证实的 BCI 效果。

    阅读价值：值得阅读的是在 SONAR 句子表示空间中比较回归、扩散与量化生成的建模路径；作者报告的跨语言泛化结果及其对 EEG 的适用性仍需分别核对与验证。

  4. OpenReview · EEG77

    VIT-LENS：面向全模态表征

    基于摘要分析。VIT-LENS 研究如何在新模态数据有限、难以重复视觉与语言模型大规模训练的条件下，借助预训练 ViT 学习全模态表征。其核心贡献是用模态专用 lens 将输入映射到中间嵌入空间，再由具有预训练视觉知识的 ViT 编码，并将输出对齐到现成基础模型预先定义的模态无关空间。 机制上，lens 承担不同输入结构到共享编码器接口的适配，ViT 提供可复用的视觉预训练知识，表征对齐则支持不同模态接入共同的下游能力。作者强调参数与数据效率，以及模态对齐和共享 ViT 参数带来的下游能力；摘要未说明具体损失形式、监督信号、训练数据配对方式、ViT 是否冻结及可训练参数规模。 研究对象包括 3D point cloud、depth、audio、tactile 和 EEG，而非仅针对 EEG 或 BCI。作者报告在包括零样本分类在内的多种理解任务上取得新的最优结果，并通过集成多模态基础模型，实现零样本的任意模态到文本与图像生成。但摘要没有逐模态结果，不能将这些总体结论直接归为 EEG 的已验证效果。EEG 数据集、被试数量、被试内或跨被试划分、基线、指标、消融及统计信息尚未验证。摘要提供了代码与模型仓库，具体 EEG 实现和复现配置仍需核对。 平台推测（待验证）：这一机制可能为 EEG 小数据条件下复用非 EEG 预训练表征提供路径。可复用部分是共享 ViT 与对齐接口，需改造部分是适应 EEG 时序、通道布局和采样差异的 lens；其可行性取决于可用监督或跨模态对应关系。低信噪比、跨被试差异及通道变化可能使视觉先验难以迁移，也可能使对齐保留语义却损失任务相关神经信息。一个可检验的小实验是在固定 EEG 数据划分、相同 lens 和训练预算下，对比预训练 ViT 与随机初始化 ViT，并分别报告被试内、跨被试结果，以检验视觉预训练是否带来稳定增益。其他相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其通过模态专用 lens 复用预训练 ViT 并对齐共享表征空间的机制，但摘要未提供 EEG 的具体任务、评估协议和结果，尚不能据此判断其 BCI 有效性。

  5. OpenReview · EEG74

    FoME：采用自适应时间–横向注意力缩放的 EEG 基础模型

    基于摘要分析。FoME 面向 EEG 信号异质性、低信噪比及标注数据有限的问题，提出结合时频融合嵌入与自适应时间–横向注意力缩放的 EEG 基础模型，旨在统一建模不同数据流中的时间、频谱和多通道信息。 核心机制包括 time-frequency fusion embedding 和 adaptive time-lateral attention scaling（ATLAS）。作者称，前者融合时间与频率信息，后者使注意力机制适应不同 EEG 数据流的模式变化，两者共同支持复杂 EEG 动态和多通道建模。摘要未给出融合方式、注意力缩放公式、预训练目标或训练损失，尚不能据此判断其具体实现及各组件的独立贡献。 预训练方面，作者报告使用包含头皮 EEG 与颅内 EEG 记录的多样化数据，规模为 1.7 TB；模型包含 745M 参数，训练 1,096k 步。摘要未说明数据集名称、被试构成、通道配置、采样率或预处理方式，也未明确不同记录类型如何统一表示。这些条件影响预训练覆盖范围及复现成本，需要全文核对。 结果方面，作者报告在四项下游任务上评估 FoME，覆盖分类与预测应用，并称持续取得 state-of-the-art 结果。但摘要未提供具体任务、指标、分数、对照模型，以及被试内、跨被试、跨会话或跨数据集划分，因此目前无法量化优势，也不能将这些结果直接解释为特定 BCI 范式上的有效性。实验协议、消融及统计信息尚未验证。 复现时应重点核对 ATLAS 的计算定义、时频融合与单独表征的对照、预训练数据与下游评估的关系，以及各任务的适配方式。摘要称代码将公开，但未确认代码或预训练权重已可获取。作者提出其可支持 BCI、临床诊断与认知研究；这些应用范围仍需各自的任务级证据支持。

    阅读价值：值得核对 FoME 的时频融合嵌入与 ATLAS 如何处理 EEG 时间动态及多通道异质性，但其性能优势与跨场景适用性仍需结合全文中的评估协议和消融验证。

  6. OpenReview · State space models74

    Mamba-CL：在零空间中优化选择性状态空间模型以实现持续学习

    基于摘要分析。该研究面向持续学习中的灾难性遗忘，提出 Mamba-CL，通过在历史任务特征子空间的正交方向更新参数，持续微调大规模 Mamba 基础模型的核心 SSM，力求保留既有知识并学习新任务。 核心机制是将参数更新限制在历史特征子空间对应的零空间内。作者围绕 Mamba 的四个关键时不变参数推导整体一致性约束，处理 SSM 的递归状态空间结构与非线性离散化过程，再以零空间投影实现正交更新。作者声称，该方法在理论上保证各 SSM 模块在先前与当前任务上的输出一致性目标；具体保证的假设、约束范围，以及模块级一致性如何对应最终任务性能，需结合全文核对。 作者报告，在四个类别增量学习基准上，Mamba-CL 展现出抗遗忘效果，性能优于所比较的先进方法。摘要未提供基准名称、任务序列、数据划分、指标或具体数值，因此无法判断提升幅度及不同协议下的可比性。实验协议、消融及统计信息尚未验证。摘要称代码位于补充材料中，但其可获取性、运行配置与复现要求尚未核对。 平台推测（待验证）：该机制可能对应 EEG 持续学习中新增类别或连续会话更新引起的遗忘，但依赖历史特征子空间能稳定表征需保留的知识。可复用的是零空间投影与参数一致性约束；需改造的是 EEG 时序输入、通道适配和特征子空间估计。低信噪比、跨被试差异、通道变化及小样本可能使子空间估计不稳定，或过度限制更新、妨碍新任务学习。一个可检验的假设是：在固定 EEG 类别增量协议下，使用相同 Mamba 骨干与数据划分，对照普通顺序微调和零空间约束更新，检验历史类别 Accuracy 的保留是否以新类别学习能力下降为代价。上述迁移不属于本文已验证结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其针对 Mamba 核心 SSM 参数推导的一致性约束与零空间投影实现，尤其是理论保证的适用条件及抗遗忘与新任务学习能力之间的权衡。