跳到正文

算法、任务与模态

Foundation Model 最新动态

Foundation Model 研究索引；按可核对的标签归档，不以热度评价质量。

145 条精选近 30 天 79 条共收录 164 条

更新

精选归档 · 第 8 页

1月1日周一第 141–145 条
  1. OpenReview · EEG79

    EEGPT：通过自回归预训练释放 EEG 通用基础模型的潜力

    EEGPT 针对 EEG 数据格式多样、预训练范式与迁移方法受限的问题，结合电极级建模、自回归预训练和多任务迁移，旨在构建可适配不同采集设备、被试与任务的通用 EEG 基础模型。基于摘要分析，未取得论文全文。 核心机制：作者将每个电极作为基本建模单元，以整合不同电极配置的 EEG 数据；摘要称预训练数据涉及最多 138 个电极，共计 37.5M 个预训练样本，但样本单位、切片方式及数据组成尚未验证。预训练采用 next signal prediction，而非传统 masked autoencoder，目标是捕捉 EEG 的序列与时间依赖；具体预测粒度、序列组织、损失函数与推理流程尚未验证。作者还探索了参数规模最高为 1.1B 的模型的 scaling laws，但摘要未提供规模与性能之间的定量关系。 迁移机制：作者提出跨任务共享的可学习电极图网络，用于多任务迁移学习，并报告任务间具有兼容性与协同作用。摘要称模型支持最多 138 个电极及其任意组合输入；电极身份编码、不同设备的输入对齐方式、缺失电极处理和任务特定模块仍需核对正文。 结果与证据边界：作者报告在覆盖 5 个不同任务的 12 个 benchmarks 上进行评估，并在全部下游任务中优于现有专用模型，同时称广泛消融支持其有效性。摘要未列出任务与数据集名称、被试数、被试内或跨被试等划分协议、基线、指标及数值，因此不能据此量化优势，也不能确认跨设备、跨被试适配的具体评估前提。实验协议、消融及统计信息尚未验证。 复现重点是核对异构数据整合规则、自回归目标与电极图迁移各自的贡献，以及预训练数据和下游评估的关系。摘要中的“首次”及“最大”等表述属于作者主张，尚未独立核实。作者表示将发布代码和模型，当前材料不能确认其已公开。

    阅读价值：值得核对其电极级建模、自回归预训练与共享电极图的多任务迁移如何协同处理异构 EEG，并复现作者报告的跨任务优势；具体划分、对照与统计证据尚未验证。

  2. OpenReview · State space models72

    状态空间模型作为基础模型：控制理论视角的概述

    基于摘要分析。本文研究线性状态空间模型（SSM）如何融入基础模型的深度序列架构，面向控制理论研究者介绍相关方法，并从控制理论视角系统综述主要 SSM 方案、比较其长序列学习表现。其贡献是梳理与比较既有架构，而非发布新的基础模型或权重。 核心联系在于：基础模型将序列编码到潜在空间以学习压缩表示，而控制理论中的 SSM 用于高效描述动态系统，两者可通过状态表示与序列动态建模建立联系。摘要以 Mamba 为背景，并提及其在语言任务中相对 Transformer 的性能优势；这属于作者对既有研究的概述，不能视为本文已验证的普遍结论。具体架构、状态更新形式、训练目标及各模型的差异尚未验证。 作者说明进行了标准化基准比较，以评估模型学习长序列的效率，但摘要未提供基准名称、数据结构、评价指标、对照设置或结果数值，因此无法据此判断哪种模型更优。实验协议、消融及统计信息尚未验证，复现还需核对全文中的模型配置、训练预算与评估实现。 平台推测（待验证）：若 SSM 的状态表示能够保留 EEG 中与任务相关的长时依赖，其序列建模机制可能用于处理长时间窗信号；这是迁移假设，并非本文的 EEG/BCI 结果。可考虑复用状态更新与序列编码模块，但输入表示、多通道融合及任务输出需针对 EEG 改造。低信噪比、跨被试差异、通道变化和小数据条件可能使状态表示保留噪声或产生过拟合。一个可证伪的小实验是在固定 EEG 数据划分、预处理和训练预算下，对比 SSM 与 Transformer，分别记录分类指标、不同窗口长度下的表现及计算开销，不混合被试内与跨被试结果。已有 EEG 相关工作尚未检索确认。

    阅读价值：该综述以控制理论视角梳理 SSM 序列建模架构，并提供长序列学习的标准化基准比较，适合用于理解状态表示与动态系统建模之间的联系，但其 EEG/BCI 适用性尚未验证。

  3. OpenReview · EEG71

    Neuro-GPT：迈向 EEG 基础模型

    基于摘要分析。该研究针对 BCI 任务中 EEG 数据稀缺与异质性问题，提出由 EEG 编码器和 GPT 模型组成的基础模型 Neuro-GPT，通过大规模数据上的自监督预训练，再微调至运动想象分类任务，探索预训练在低数据条件下的价值。 核心机制是以重建被掩码的 EEG 片段作为自监督任务，使模型在下游分类训练前学习 EEG 表征。摘要明确了 EEG 编码器与 GPT 模型的组合，但编码器结构、两者的连接方式、掩码策略、重建目标与损失形式尚未验证；预训练数据集名称、规模及通道配置也未在所给材料中说明。 作者报告，在包含 9 名被试的低数据运动想象分类实验中，使用基础模型相比从头训练可显著改善分类表现，并将其解释为模型泛化能力及应对数据稀缺与异质性的证据。摘要未提供具体指标、分数、效应大小或统计检验信息，也未明确属于被试内、跨被试还是跨会话评估，因此不能据此确认跨被试或跨数据集泛化效果。 复现价值在于检验自监督预训练是否能在有限下游 EEG 数据下产生稳定收益。作者提供了公开代码；进一步核对需结合全文与实现确认预训练和下游数据的关系、数据划分、微调配置，以及从头训练对照的模型容量与训练预算。实验协议、消融及统计信息尚未验证，代码完整性与复现所需的数据、计算资源也有待核查。

    阅读价值：值得阅读的具体原因是其以 EEG 片段重建预训练衔接低数据运动想象分类，并提供公开代码，可用于核对预训练相对从头训练的收益；收益大小及跨被试、跨数据集泛化仍需验证。

  4. OpenReview · EEG74

    FoME：采用自适应时间–横向注意力缩放的 EEG 基础模型

    基于摘要分析。FoME 面向 EEG 信号异质性、低信噪比及标注数据有限的问题，提出结合时频融合嵌入与自适应时间–横向注意力缩放的 EEG 基础模型，旨在统一建模不同数据流中的时间、频谱和多通道信息。 核心机制包括 time-frequency fusion embedding 和 adaptive time-lateral attention scaling（ATLAS）。作者称，前者融合时间与频率信息，后者使注意力机制适应不同 EEG 数据流的模式变化，两者共同支持复杂 EEG 动态和多通道建模。摘要未给出融合方式、注意力缩放公式、预训练目标或训练损失，尚不能据此判断其具体实现及各组件的独立贡献。 预训练方面，作者报告使用包含头皮 EEG 与颅内 EEG 记录的多样化数据，规模为 1.7 TB；模型包含 745M 参数，训练 1,096k 步。摘要未说明数据集名称、被试构成、通道配置、采样率或预处理方式，也未明确不同记录类型如何统一表示。这些条件影响预训练覆盖范围及复现成本，需要全文核对。 结果方面，作者报告在四项下游任务上评估 FoME，覆盖分类与预测应用，并称持续取得 state-of-the-art 结果。但摘要未提供具体任务、指标、分数、对照模型，以及被试内、跨被试、跨会话或跨数据集划分，因此目前无法量化优势，也不能将这些结果直接解释为特定 BCI 范式上的有效性。实验协议、消融及统计信息尚未验证。 复现时应重点核对 ATLAS 的计算定义、时频融合与单独表征的对照、预训练数据与下游评估的关系，以及各任务的适配方式。摘要称代码将公开，但未确认代码或预训练权重已可获取。作者提出其可支持 BCI、临床诊断与认知研究；这些应用范围仍需各自的任务级证据支持。

    阅读价值：值得核对 FoME 的时频融合嵌入与 ATLAS 如何处理 EEG 时间动态及多通道异质性，但其性能优势与跨场景适用性仍需结合全文中的评估协议和消融验证。

  5. OpenReview · State space models74

    Mamba-CL：在零空间中优化选择性状态空间模型以实现持续学习

    基于摘要分析。该研究面向持续学习中的灾难性遗忘，提出 Mamba-CL，通过在历史任务特征子空间的正交方向更新参数，持续微调大规模 Mamba 基础模型的核心 SSM，力求保留既有知识并学习新任务。 核心机制是将参数更新限制在历史特征子空间对应的零空间内。作者围绕 Mamba 的四个关键时不变参数推导整体一致性约束，处理 SSM 的递归状态空间结构与非线性离散化过程，再以零空间投影实现正交更新。作者声称，该方法在理论上保证各 SSM 模块在先前与当前任务上的输出一致性目标；具体保证的假设、约束范围，以及模块级一致性如何对应最终任务性能，需结合全文核对。 作者报告，在四个类别增量学习基准上，Mamba-CL 展现出抗遗忘效果，性能优于所比较的先进方法。摘要未提供基准名称、任务序列、数据划分、指标或具体数值，因此无法判断提升幅度及不同协议下的可比性。实验协议、消融及统计信息尚未验证。摘要称代码位于补充材料中，但其可获取性、运行配置与复现要求尚未核对。 平台推测（待验证）：该机制可能对应 EEG 持续学习中新增类别或连续会话更新引起的遗忘，但依赖历史特征子空间能稳定表征需保留的知识。可复用的是零空间投影与参数一致性约束；需改造的是 EEG 时序输入、通道适配和特征子空间估计。低信噪比、跨被试差异、通道变化及小样本可能使子空间估计不稳定，或过度限制更新、妨碍新任务学习。一个可检验的假设是：在固定 EEG 类别增量协议下，使用相同 Mamba 骨干与数据划分，对照普通顺序微调和零空间约束更新，检验历史类别 Accuracy 的保留是否以新类别学习能力下降为代价。上述迁移不属于本文已验证结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其针对 Mamba 核心 SSM 参数推导的一致性约束与零空间投影实现，尤其是理论保证的适用条件及抗遗忘与新任务学习能力之间的权衡。