跳到正文
只看表征与基础模型#Pretraining
10月9日周五
  1. arXiv · 泛化与分布偏移77

    PLaW-VLA：用于视觉-语言-动作策略的预测式潜在世界建模

    PLaW-VLA 研究如何为视觉-语言-动作（VLA）策略提供有助于长时程控制的未来状态信息，核心贡献是在预训练的预测导向表征空间中建模任务相关未来状态，而非重建低层视觉细节。基于摘要分析，尚未取得论文全文。 方法采用 Mixture-of-Transformers 架构，通过结构化因果注意力，将观测历史、当前任务语义和预测未来状态共同用于条件化动作生成。其关键设计是减少对控制无关视觉细节的预测负担，并采用可并行预测未来状态的轻量潜在世界模型。表征预训练方式、任务相关性的实现、损失函数、预测跨度以及注意力连接细节尚未验证。 作者报告，在 RoboTwin Hard Horizon III 上，相对反应式策略提升 11.8 个百分点；在零样本 LIBERO-Plus 上，相对重建导向潜在预测提升 1.77 个百分点。摘要分别以这些结果支持长时程控制改善和分布偏移下的泛化，但未明确指标名称、数据划分及具体对照实现，不能将不同评估中的增益直接比较。作者还报告，在策略性能相近的条件下，推理延迟约为生成式世界—动作建模的 1/19；硬件、延迟测量范围和具体基线尚未验证。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可供 EEG 方法借鉴的假设是，预测任务相关潜在状态可能比重建原始信号更适合提供决策上下文，而非直接迁移整个 VLA 架构。该路径依赖有序时序数据、有效的任务监督或条件信息，以及足以学习预测表征的数据规模；需改造 EEG 编码器、任务条件和输出模块。低信噪比、跨被试差异、通道变化与小数据可能使潜在预测捕捉非任务因素。一个可证伪的小实验是在固定 EEG 任务与跨被试划分下，比较无未来预测、信号重建式预测和任务相关潜在预测，统一编码器容量与训练预算。此为迁移假设，不是本文已验证的 EEG/BCI 结果；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其预测导向潜在表征与结构化因果注意力如何支持长时程控制，尤其是相对反应式策略、重建导向预测和生成式世界—动作建模的效果与延迟权衡；具体实验协议尚未验证。

10月8日周四
  1. arXiv · 时序与音频基础模型78

    Timer-M1：通过学习基元构建多变量时间序列基础模型

    基于摘要分析。Timer-M1 面向跨领域多变量时间序列的零样本预测，通过基于基元（primitives）的数据合成与预训练，学习跨领域共享的时间模式及变量关系，以应对不同场景中模式表现和演化方式的差异。 方法上，合成流程先生成包含 temporal primitives 的序列，再利用 relational primitives 将真实序列与生成序列组装为多变量样本。随后，将样本组织为 episodes，并明确区分目标变量、仅提供历史信息的协变量及已知未来信息的协变量，使模型利用可用外生信息预测目标变量。模型采用经调整的门控二维 Transformer 模块，在不同层中动态分配跨变量注意力；具体门控实现、训练目标、数据规模及推理配置尚未验证。 作者报告，在三个大规模预测基准上，与近期时间序列基础模型比较，Timer-M1 在 FEV 和 TIME 排名第一，在 GIFT-Eval 排名第二。摘要未提供具体指标值、预测长度、数据划分或完整对照模型列表，不能据排名推断提升幅度。实验协议、消融及统计信息尚未验证；复现还需核对基元生成规则、真实与合成数据配比、通道角色分配及模型权重可用性。 平台推测（待验证）：其原问题是利用跨领域共享模式实现零样本预测，依赖多变量时序结构及明确的协变量可用性。迁移假设是，基元合成与跨变量注意力可能用于 EEG 的跨通道信号预测，但不等同于已验证的 BCI 解码能力。可复用的是合成流程和变量交互建模；需改造的是 EEG 基元定义、通道角色与任务输出，尤其不能将未知未来 EEG 当作已知协变量。低信噪比、被试差异、通道布局变化和小数据可能使合成模式与真实信号失配。可检验的小实验是在固定 Cross-subject 划分下，对比加入与不加入 EEG 基元合成的同一预测模型，使用相同预测窗口及误差指标评估；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其基于 temporal primitives 与 relational primitives 的数据合成及通道角色建模，是否能改善多变量预测的泛化；摘要报告的基准排名及其向 EEG 迁移的价值仍需分别验证。

10月7日周三
  1. arXiv · EEG 与神经表征77

    跨模态对齐中的被试规模扩展：利用 EEG 基础模型进行视频解码

    基于摘要分析。研究考察自然视觉 EEG 解码是否受益于扩大训练被试规模，并通过 EEG–视频跨模态对比编码器比较基础模型初始化与随机初始化的扩展表现。核心贡献是提出被试规模收益可能存在起点：小规模队列中的有限增益，不一定能代表更大队列的扩展规律。 方法与对照：研究利用共享自然视觉刺激进行 EEG–视频对齐，训练队列规模比既有相关研究大一个数量级以上。摘要列出的评估包括需要拟合的刺激特征探针，以及无需拟合的电影时刻检索；初始化对照包括 EEG 基础模型与两个深度的随机初始化编码器。具体基础模型名称、对比损失、视频表征方式、网络结构与各规模阶梯尚未验证。 作者报告，在其被试规模阶梯中，S≈50 以下，各模型相对未训练编码器均无明显改善；超过这一范围后，两类评估的解码表现随被试数呈对数线性增长，在所测试的最高规模处未见饱和，且收益迁移到第二部未见电影。作者还报告，基础模型初始化编码器在队列每翻倍时的扩展速率约为随机初始化对照的 1.6 倍，是最高规模处唯一仍能通过增加被试提高检索 Accuracy 的模型，并以较少的对齐计算量收敛。摘要未给出绝对 Accuracy、最高被试数、计算量或统计不确定性，不能将该速率比解释为准确率提高 1.6 倍。 证据边界与复现重点：需核对训练和评估的被试划分、时间片段划分、电影间迁移设置，以及共享刺激条件下候选检索集合与未训练基线的定义。摘要不足以确定结果属于何种 Cross-subject 或 Cross-session 协议，也不能将未见电影迁移直接等同于 Cross-dataset 泛化。实验协议、消融及统计信息尚未验证。作者将共享自然刺激上的被试扩展视为尚未饱和的方向，但这一结论仅适用于已测试规模与任务，尚不能外推到任意 EEG 数据或其他 BCI 范式。

    阅读价值：值得核对其被试规模阶梯与评估划分，以检验共享自然视觉刺激下被试扩增的收益起点，以及 EEG 基础模型初始化相对随机初始化的扩展效率优势。

10月6日周二
  1. arXiv · EEG 与神经表征78

    SpecBraM：EEG 基础模型应预测什么？掩码频带功率预测与波形重建的比较

    基于摘要分析。研究探讨 EEG 自监督预训练应预测何种物理量，提出 masked band-power prediction（MBP，掩码频带功率预测），并与波形重建比较。其核心贡献是通过匹配条件的实验检验预训练目标对睡眠分期表征的影响，同时考察收益能否迁移到其他任务。 MBP 为被掩码的通道—时间片段预测固定窄频带的对数谱能量，旨在保留与睡眠分期相关的节律功率，避免相位敏感的波形重建及学习式码本。作者使用三个预训练随机种子，在相同骨干、2,388 小时预训练数据和相同训练步数下比较频带功率与波形目标，并采用 2×2 tokenizer-by-target 设计区分 tokenizer 与预测目标的影响；摘要未提供具体骨干、损失形式或频带配置。 作者报告，在 ISRUC 和 HMC 睡眠分期的严格线性探测协议下，使用全部标签时，MBP 相较原始波形及频带波形重建提高 1.6–2.8 个 Balanced Accuracy 百分点；使用 1% 标签时提高 4.7–7.3 个百分点，且目标的影响大于 tokenizer 的影响。按 ISRUC/HMC 顺序，冻结特征的 Balanced Accuracy 为 0.7916/0.7425，匹配的丰富手工频谱特征基线为 0.7636/0.7227；但在 1% 标签条件下，与该基线的差距约为一个百分点。作者报告，全量微调的 Balanced Accuracy 为 0.8107/0.7669。被试与会话划分、标签抽样方式、各对照的具体实现及统计不确定性尚未验证，不能据此直接比较其他研究的分数。 作者报告，这些收益未普遍扩展到运动想象、抑郁筛查和警觉性回归等具有频谱线索的任务，支持根据下游标签相关的物理量及空间、时间尺度选择预训练目标，而非将 MBP 视为普适替代方案。复现需核对预训练数据组成、掩码策略、频带定义、线性探测约束和 1% 标签采样协议；完整实验协议、消融及统计信息尚未验证。

    阅读价值：匹配骨干、预训练数据与训练步数的目标对照及 tokenizer-by-target 设计，有助于核对睡眠分期收益是否主要来自预训练目标，同时其未普遍迁移的结果值得用于审视 EEG 基础模型的任务适用边界。

10月4日周日
  1. arXiv · 时序与音频基础模型75

    Pythia：迈向多模态时间序列基础世界模型

    基于摘要分析。Pythia 针对异构时间序列中可复用多模态预测表示不足的问题，通过 joint-embedding predictive architecture 学习由上下文条件化的潜在动态，并将世界模型预训练与观测空间中的概率预测分离。 核心机制是使用 stop-gradient 数值参考，引导上下文信息对预测未来状态进行修正；随后由独立概率解码器结合冻结的预测表示与观测历史完成预测。该设计将潜在动态表示的学习与概率输出适配解耦。摘要未提供具体损失形式、上下文编码方式、预训练数据构成或模型规模，这些细节尚未验证。 作者报告，在 MUSE 上，Pythia-Tiny 的归一化 mean absolute scaled error（MASE）为 0.6879，weighted sum quantile loss（WSQL）为 0.4269，相对于已发布 MUSE 排行榜中被评估的最强模型，误差分别降低 6.26% 和 5.00%。这些是相对降幅，不是百分点变化；摘要未说明对照模型名称、数据划分及指标聚合方式，不能据此推断其他协议下的优势。作者还报告，受控实验支持将预测表示学习与概率读出分离，并显示实体描述、事件和协变量具有互补贡献。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其上下文条件化动态表示可能用于探索 EEG 信号与任务描述、事件标记及协变量的联合建模，但原领域结果不等于 BCI 有效。可复用思路是潜在动态预测和独立读出；需要改造 EEG 输入表示、通道组织及事件时间对齐。低信噪比、跨被试差异、通道不一致和小数据规模可能削弱上下文收益。一个可证伪的小实验是在固定 Cross-subject 划分下，对比仅数值输入、加入真实事件上下文及打乱上下文的未来 EEG 预测误差，检验收益是否确实来自上下文。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其将多模态潜在动态预训练与概率预测解耦的机制，以及文本、事件和协变量的受控对照；摘要报告了 MUSE 上的误差改善，但具体评估协议与统计可靠性尚未验证。

  2. arXiv · EEG 与神经表征79

    SPERA：采用几何与频率感知潜空间预测的球面先验 EEG 基础模型

    基于摘要分析。SPERA 针对被试、设备及电极布局异质性带来的通用 EEG 建模难题，采用 joint-embedding predictive architecture（JEPA）进行潜空间预测，并结合电极几何先验与频谱关系约束，构建 EEG 基础模型。其出发点是：观测信号同时包含神经与非神经成分，直接重建信号的训练目标未必最适合学习通用表征；这一动机不等于模型已被证明能够分离两类成分。 机制上，SPERA 将 Legendre-polynomial 空间先验融入注意力，以编码不同头皮电极几何；采用分解式时间与空间注意力，并穿插周期性全注意力块；通过 relational spectral regularizer，使潜空间相似性结构与频谱视图对齐。这些设计分别面向电极布局变化、时空交互建模和频谱结构约束。摘要未提供潜空间预测目标、频谱视图构造、正则项公式及各组件训练细节，其具体实现尚未验证。 作者报告，模型在来自 106 个数据集、29,048 名被试的约 80,000 小时 EEG 上进行预训练，并在覆盖临床、认知和 BCI 应用的九项下游任务中取得最高平均 Balanced Accuracy。该结论限定于作者采用的任务集合与比较范围；摘要未列出具体任务、对照模型、分数、汇总方式，以及被试内、跨被试、跨会话或跨数据集划分，不能据此判断各类泛化能力。作者还报告在线性探测下具有较强参数效率，并对不同记录条件表现出稳健性，但参数规模、冻结与训练设置及稳健性测试条件尚未验证。 复现与阅读重点是核对预训练和下游数据的划分关系、电极坐标及缺失通道处理、频谱约束的实现，以及几何先验、分解式注意力和频谱正则各自的贡献。实验协议、消融及统计信息尚未验证；代码、权重和数据可获取性也无法由摘要确认。

    阅读价值：值得核对 SPERA 如何将电极几何先验与频谱关系约束引入潜空间预测，以及作者报告的下游表现是否在不同电极布局和评估协议下保持稳定。

  3. arXiv · 表征与预训练78

    SepRQ：通过无掩码、多尺度声源分离进行自监督语音混合表征学习

    SepRQ 针对主流自监督语音表征模型主要面向单说话人、难以适应多说话人场景的问题，提出以冻结随机投影码本上的伪声源分离目标替代掩码预测，并采用无掩码、多分辨率学习方式。以下基于摘要分析，未取得论文全文。 机制上，研究将预训练任务从掩码内容预测转向混合语音中的声源区分。摘要明确提及冻结随机投影码本，但未说明伪声源目标的构造、码本配置、多分辨率实现、损失形式及训练数据规模，这些细节尚未验证。作者将 SepRQ 描述为开源框架；当前材料未提供可核对的代码入口、权重或复现配置。 作者报告，在 SUPERB 的 Speaker Diarization 与 Speech Separation 任务上，SepRQ 在 Base 和 Large 两种规模下超过 WavLM 及其他面向多说话人混合场景的自监督方法，并声称达到当前最优表现；摘要同时报告推理参数量为 85.68M，但未明确其对应的具体配置。作者还报告模型在需要目标说话人注册音频的任务（如 Target-Speaker Automatic Speech Recognition）、多域 DIHARD 3 说话人日志任务，以及 WSJ0-3Mix 三说话人混合分离上表现较强。摘要未给出这些任务的具体分数；训练与评估划分、基线配置、消融及统计信息尚未验证，不能据此量化优势或跨协议比较。 平台推测（待验证）：迁移假设是，面向混合信号的分离式自监督目标可能帮助 EEG 表征区分叠加成分，但语音中的说话人结构并不等同于 EEG 中的神经活动与伪迹。可考虑复用随机投影码本与多尺度目标设计，需改造信号编码、通道处理和伪源生成；其有效性依赖可辨识的混合结构及足够训练数据，低信噪比、跨被试差异、通道变化和小数据均可能使目标偏向伪迹。一个可检验的小实验是在相同 EEG 数据、编码器和训练预算下，对比掩码建模与伪源分离目标，并在固定 Cross-subject 划分下测试表征对人工叠加伪迹的鲁棒性。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 SepRQ 如何通过冻结随机投影码本上的伪声源分离目标学习多说话人表征，以及其相对 WavLM 的收益能否在一致评估协议下复现；对 EEG 的迁移价值尚未验证。

10月3日周六
  1. arXiv · 表征与预训练76

    通过表征多样性与多分支架构扩展无线基础模型

    基于摘要分析。该研究关注预训练数据有限时，扩大无线基础模型容量未必稳定改善下游表现的问题，提出将自监督目标多样性作为另一条扩展路径：通过组合重建、预测与对比学习所强调的不同信号属性，支持多种下游任务。 方法包含两个阶段：首先融合由不同目标独立训练的编码器所产生的冻结表征，以检验目标互补性的收益，但这需要维护多个编码器；随后设计联合训练的多分支架构，以共享主干和目标专属分支，在标准单目标编码器的参数预算内保留多目标收益。摘要未给出具体损失、融合方式、分支结构及训练配比。 作者在包含 spectrogram 与 channel state information 的异构语料上预训练，并评估覆盖通信、感知和定位的六项下游任务。作者报告，在输出嵌入维度相同的条件下，融合方法在全部六项任务上优于所评估的单目标编码器，参数量约为其三分之一；这一参数比例的统计口径需查阅全文核对。作者报告，多分支架构在单编码器参数预算内保留了大部分融合收益。表征分析显示不同目标具有互补贡献，新增收益中相当一部分保留于与重建表征子空间正交的成分。具体数据集、划分、指标、对照配置、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，重建、预测与对比目标可能分别保留 EEG 中不同的时频和判别信息，为有限数据下单一预训练目标的信息偏向提供补充。可复用的是共享主干、目标专属分支及表征互补性分析；需改造的是 EEG 输入表征、预测任务和对比样本构造，并确认所用无标签数据规模足以支撑联合训练。低信噪比可能使重建目标保留伪迹，跨被试及通道差异可能引入非任务信息，小数据下也可能出现目标冲突。可检验的小实验是在固定 EEG 数据划分、参数预算、嵌入维度及下游评估协议下，比较单目标编码器与多目标多分支模型，并检验增益是否伴随互补表征，而非仅来自训练投入变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：该研究通过冻结表征融合与共享主干多分支架构两条路径检验自监督目标多样性的价值，值得核对其参数统计、任务评估与表征互补性分析，但迁移至 EEG 的收益尚未验证。