跳到正文

算法、任务与模态

Foundation Model 最新动态

Foundation Model 研究索引；按可核对的标签归档，不以热度评价质量。

7 条精选近 30 天 7 条共收录 7 条

更新

Foundation Model的精选

今天10月9日周五第 1–7 条
  1. arXiv · 时序与音频基础模型73

    AdaCast：用于自适应时间序列预测的条件参数生成

    基于摘要分析。AdaCast 针对时间序列基础模型（TSFM）的静态适应问题，提出条件参数生成框架：根据每个输入生成低秩参数更新，使冻结的预训练模型能够针对不同时间模式、季节性与动态特征进行预测。 核心机制是由生成器产生输入特定的低秩参数更新，并在训练和推理阶段应用这些更新。与为整个数据集学习一组固定更新、对所有输入使用同一适应模型的方案相比，其关键区别在于参数适应随输入变化。摘要未说明生成器结构、条件输入形式、更新作用位置、低秩设置及训练目标，这些细节尚未验证。 作者报告，在六个公开基准上，AdaCast 的域内预测表现持续优于静态适应基线，并改善了对跨领域留出数据集的零样本泛化。摘要未提供基准名称、指标、提升幅度或具体数据划分，不能据此量化收益或比较不同协议；实验协议、消融及统计信息尚未验证。复现还需核对预训练 TSFM、生成器训练所用数据、留出数据集与训练数据的关系，以及训练和推理的计算开销。 平台推测（待验证）：输入条件化更新可能用于缓解 EEG 时序预测中不同被试或状态造成的动态异质性，但原领域有效不等于 BCI 有效。可复用的部分是冻结主干与条件低秩更新机制；需改造输入表示、通道组织和预测目标，并确认 EEG 数据规模与监督条件能否支持生成器训练。低信噪比、通道差异及小数据可能使生成器追随伪迹而非稳定动态。一个可证伪的小实验是在固定 EEG 预测主干、训练数据与更新预算下，对比静态低秩更新和输入条件化更新，采用被试隔离的 Cross-subject 划分并检查误差与伪迹敏感性。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对输入条件化低秩参数更新相较静态适应的增益及其跨数据集泛化边界；摘要提供了明确机制，但其对 EEG 的适用性尚未验证。

10月8日周四
  1. arXiv · 时序与音频基础模型78

    Timer-M1：通过学习基元构建多变量时间序列基础模型

    基于摘要分析。Timer-M1 面向跨领域多变量时间序列的零样本预测，通过基于基元（primitives）的数据合成与预训练，学习跨领域共享的时间模式及变量关系，以应对不同场景中模式表现和演化方式的差异。 方法上，合成流程先生成包含 temporal primitives 的序列，再利用 relational primitives 将真实序列与生成序列组装为多变量样本。随后，将样本组织为 episodes，并明确区分目标变量、仅提供历史信息的协变量及已知未来信息的协变量，使模型利用可用外生信息预测目标变量。模型采用经调整的门控二维 Transformer 模块，在不同层中动态分配跨变量注意力；具体门控实现、训练目标、数据规模及推理配置尚未验证。 作者报告，在三个大规模预测基准上，与近期时间序列基础模型比较，Timer-M1 在 FEV 和 TIME 排名第一，在 GIFT-Eval 排名第二。摘要未提供具体指标值、预测长度、数据划分或完整对照模型列表，不能据排名推断提升幅度。实验协议、消融及统计信息尚未验证；复现还需核对基元生成规则、真实与合成数据配比、通道角色分配及模型权重可用性。 平台推测（待验证）：其原问题是利用跨领域共享模式实现零样本预测，依赖多变量时序结构及明确的协变量可用性。迁移假设是，基元合成与跨变量注意力可能用于 EEG 的跨通道信号预测，但不等同于已验证的 BCI 解码能力。可复用的是合成流程和变量交互建模；需改造的是 EEG 基元定义、通道角色与任务输出，尤其不能将未知未来 EEG 当作已知协变量。低信噪比、被试差异、通道布局变化和小数据可能使合成模式与真实信号失配。可检验的小实验是在固定 Cross-subject 划分下，对比加入与不加入 EEG 基元合成的同一预测模型，使用相同预测窗口及误差指标评估；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其基于 temporal primitives 与 relational primitives 的数据合成及通道角色建模，是否能改善多变量预测的泛化；摘要报告的基准排名及其向 EEG 迁移的价值仍需分别验证。

10月4日周日
  1. arXiv · 时序与音频基础模型73

    GRAM：通过图检索幅度记忆校正冻结的时序基础模型

    基于摘要分析。GRAM 针对冻结时序基础模型（TSFM）的预测校正问题，提出检索增强框架：不直接复用相似历史窗口的真实未来值，而是从历史预测误差中提取可重复的系统性偏差，用于修正当前预测。 核心机制：作者认为，历史真实未来值既包含基础模型已经捕获的可预测成分，也包含难以迁移的样本特异性随机波动；相比之下，重复出现的模型偏差更直接反映冻结模型的失效模式。Amplitude Memory Module（AMM）按幅度缩放预测误差，并将其聚合为可检索原型，以处理不同数值尺度下误差难以比较的问题。Prototype Graph Module（PGM）建模原型间关系，聚合一致的偏差信息并抑制随机波动。在线预测时，GRAM 检索并扩展与当前查询相关的原型，为各预测步生成校正量，细化原始 TSFM 输出。摘要未给出幅度定义、原型构建规则、图连接方式或校正器训练细节。 结果与核对事项：作者报告，在多个数据集和基础模型上获得一致的预测改进，但摘要未提供数据集名称、指标、数值、划分或对照配置，不能据此判断收益大小与统计稳定性。实验协议、消融及统计信息尚未验证；复现时需核对历史误差记忆的构建时间范围、在线可用信息、记忆更新机制，以及 AMM 与 PGM 的独立贡献。 平台推测（待验证）：若 EEG 连续信号预测存在可重复的模型偏差，该机制可能用于冻结预测模型的残差校正，但不等同于已验证的 BCI 解码收益。其依赖具有真实后续观测的历史窗口和相对稳定的误差结构；可复用误差原型与图聚合思路，需改造多通道幅度处理及被试、会话间检索策略。低信噪比、通道差异和小数据可能使原型主要反映噪声或个体差异。可在严格按时间划分的单一 EEG 连续预测任务中，对比冻结模型、直接残差检索和 GRAM 式校正，检验图聚合是否带来稳定收益。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 GRAM 将检索对象从历史真实未来值转向模型误差原型的设计，尤其是幅度归一化与图聚合能否稳定提取冻结模型的系统性偏差；具体收益及适用边界尚未验证。

10月3日周六
  1. arXiv · 时序与音频基础模型73

    QiYao-I：用于不规则多变量时间序列预测的基于流形的基础模型

    基于摘要分析。QiYao-I 面向不规则采样、变量间异步记录的多变量时间序列预测，试图解决主要建立在规则采样序列上的时序基础模型难以处理不规则时间间隔与异步变量依赖的问题。其核心贡献是采样条件化的时间流形注意力，以及具有频率感知能力的动态变量交互机制。 机制方面，前者将真实时间戳映射到可学习的时间流形特征空间，并向注意力层注入时间流形偏置，以表征不规则时间间隔和局部采样结构；后者在异步观测条件下选择性地进行跨变量消息传递。摘要未说明流形的具体定义、频率感知的实现、消息传递的选择规则或训练目标，这些细节尚未验证。 作者报告，在真实世界的不规则多变量预测基准上，QiYao-I 相比时序基础模型和端到端不规则预测模型取得更优表现，并在零样本、少样本设置下展现较强泛化能力。摘要未提供数据集名称、划分方式、指标、具体数值及基线配置，因此无法判断优势幅度或比较条件；预训练数据规模、实验协议、消融及统计信息尚未验证，模型权重与研究实现的可用性也尚未验证。 平台推测（待验证）：若 EEG 或多模态神经记录存在缺测、不同采样率或异步时间戳，这两类机制可能用于保留真实时间结构、减少强制重采样造成的信息损失；但这是假设，不构成已验证的 BCI 效果。可考虑复用时间戳编码与异步消息传递，需改造通道表示、采样条件及任务输出。低信噪比、跨被试差异和小数据可能使采样结构成为伪相关，而同步、规则采样 EEG 未必受益。一个可证伪的小实验是在固定被试划分的 EEG 预测任务中引入可控缺测和时间抖动，对比保留真实时间戳与规则重采样的方案，并检验优势是否随不规则程度变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其如何将真实时间戳与采样结构纳入注意力、并在异步观测下建模变量交互；作者报告的零样本与少样本优势仍需结合全文中的数据划分、基线及统计信息核对。

  2. arXiv · 表征与预训练76

    通过表征多样性与多分支架构扩展无线基础模型

    基于摘要分析。该研究关注预训练数据有限时，扩大无线基础模型容量未必稳定改善下游表现的问题，提出将自监督目标多样性作为另一条扩展路径：通过组合重建、预测与对比学习所强调的不同信号属性，支持多种下游任务。 方法包含两个阶段：首先融合由不同目标独立训练的编码器所产生的冻结表征，以检验目标互补性的收益，但这需要维护多个编码器；随后设计联合训练的多分支架构，以共享主干和目标专属分支，在标准单目标编码器的参数预算内保留多目标收益。摘要未给出具体损失、融合方式、分支结构及训练配比。 作者在包含 spectrogram 与 channel state information 的异构语料上预训练，并评估覆盖通信、感知和定位的六项下游任务。作者报告，在输出嵌入维度相同的条件下，融合方法在全部六项任务上优于所评估的单目标编码器，参数量约为其三分之一；这一参数比例的统计口径需查阅全文核对。作者报告，多分支架构在单编码器参数预算内保留了大部分融合收益。表征分析显示不同目标具有互补贡献，新增收益中相当一部分保留于与重建表征子空间正交的成分。具体数据集、划分、指标、对照配置、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，重建、预测与对比目标可能分别保留 EEG 中不同的时频和判别信息，为有限数据下单一预训练目标的信息偏向提供补充。可复用的是共享主干、目标专属分支及表征互补性分析；需改造的是 EEG 输入表征、预测任务和对比样本构造，并确认所用无标签数据规模足以支撑联合训练。低信噪比可能使重建目标保留伪迹，跨被试及通道差异可能引入非任务信息，小数据下也可能出现目标冲突。可检验的小实验是在固定 EEG 数据划分、参数预算、嵌入维度及下游评估协议下，比较单目标编码器与多目标多分支模型，并检验增益是否伴随互补表征，而非仅来自训练投入变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：该研究通过冻结表征融合与共享主干多分支架构两条路径检验自监督目标多样性的价值，值得核对其参数统计、任务评估与表征互补性分析，但迁移至 EEG 的收益尚未验证。

  3. arXiv · 表征与预训练80

    ZeroMAG：面向即插即用 EEG 基础模型的零样本多模态适配器生成

    基于摘要分析。ZeroMAG 研究如何在保留 EEG 基础模型预训练知识的同时，利用伴随生理信号扩展到异构多模态记录。其核心贡献是从无标签目标记录推断并生成适配器，在冻结 EEG 编码器与预测头的条件下实现多模态扩展，不使用目标标签，也不进行目标端优化。 机制上，ZeroMAG 以不随模态配置变化的适配器组织伴随模态，从无标签记录及任务上下文构建“模态—被试—任务”条件，并在由源适配器学习得到、受功能约束的潜在空间中生成适配器权重。这一路径区别于直接回归权重：生成过程不仅依赖权重表征，还通过功能监督约束表征学习与条件生成。具体适配器结构、条件编码方式、功能监督定义及损失形式尚未验证。 作者报告，在六个留出的目标数据集和三个 EEG 基础模型骨干上，ZeroMAG 的 Balanced Accuracy 相比仅使用 EEG 的推理平均提高 7.22 个百分点，相比直接权重回归提高 4.89 个百分点，与有监督多模态适配的平均差距在 0.50 个百分点以内。作者明确说明，目标数据集未参与 ZeroMAG 流程中的任何模型训练与选择；摘要未给出具体数据集、任务、伴随模态、被试数量及被试内或跨被试等划分协议，因此这些平均结果不能直接外推至特定 BCI 场景。 作者报告，移除表征学习或条件生成任一阶段的功能监督都会降低生成适配器的表现，支持两个组件的贡献。复现时需核对源适配器的训练与监督来源、任务上下文的可用信息、无标签目标记录的使用范围，以及有监督多模态对照的协议。实验协议、消融及统计信息尚未验证；对低信噪比、不同通道配置和伴随模态变化的稳健性也尚未验证。

    阅读价值：值得核对其利用无标签目标记录生成多模态适配器的机制，以及目标数据集隔离与功能监督的实现；作者报告的结果为冻结 EEG 基础模型的零样本多模态扩展提供了具体评估依据。

10月2日周五
  1. arXiv · 表征与预训练76

    少测量，多获知：自监督测试时特征采集

    基于摘要分析。本文研究多模态、高维系统在测试时如何避免昂贵且冗余的全量测量，并在下游任务或预测目标未知的情况下，顺序选择有信息量的模态。作者提出任务无关的自监督模态采集原则 ECHO-k，以深度模型的内部预训练表征作为代理目标，用于概括跨模态信息并指导采集。 核心机制是以表征目标替代特定下游任务的监督信号。作者在简化的线性设定下提供理论保证，并据此构建用于顺序模态选择的强化学习（RL）策略。摘要未说明代理目标的具体构造、优化损失、策略状态与奖励，以及采集成本如何计入预算，相关实现细节尚未验证。 作者报告，在与任务无关、无标签的采集基线比较时，ECHO-k 在多种基础模型后端上持续改善预算约束下的下游性能。摘要未提供数据集、预算定义、评估划分、指标或改善幅度，不能据此量化收益或比较不同协议；实验协议、消融及统计信息尚未验证。线性设定下的理论保证也不能直接视为复杂非线性多模态场景的保证。 平台推测（待验证）：该机制可能用于 EEG 与其他模态联合测量时的成本控制，或经改造后用于 EEG 通道组选择。迁移假设依赖预训练表征能够保留下游所需信息，以及模型能够处理部分观测；可复用代理表征目标和顺序采集策略，但需改造观测接口、采集动作与成本定义。EEG 的低信噪比、跨被试差异、通道相关性及小数据可能导致策略追逐不稳定表征，或忽略任务关键但表征不敏感的信息。一个可检验的小实验是固定预训练编码器，在相同采集预算与跨被试划分下，比较代理表征驱动的通道组选择与随机、固定通道组选择，并仅在最终评估阶段使用下游标签；该实验属于迁移验证建议，并非原文结果。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其以预训练内部表征作为代理目标、在下游任务未知时学习预算约束下模态采集策略的机制，但其在 EEG/BCI 中的有效性尚未验证。