跳到正文

算法、任务与模态

Pretraining 最新动态

Pretraining 研究索引；按可核对的标签归档，不以热度评价质量。

48 条精选近 30 天 34 条共收录 54 条

更新

精选归档 · 第 3 页

1月1日周三第 41–48 条
  1. OpenReview · EEG74

    EEGCiD：将 EEG 凝缩到扩散模型中

    基于摘要分析。EEGCiD 针对 EEG 模型开发中大量数据带来的存储与共享隐私问题，将原始数据集的知识凝缩到扩散模型和少量潜在编码中，生成信息集中的合成样本集；其目标并非复现外观逼真的 EEG，而是保留用于解码的代表性信息。 核心机制分为模型预训练与数据凝缩两阶段。首先，使用原始 EEG 数据预训练确定性去噪扩散隐式模型 DDIM，以存储数据集知识；骨干采用包含空间与时间自注意力模块 STSA 的 transformer，替代传统 U-Net。随后，从原始数据集中随机选取部分样本，经 DDIM 前向过程得到凝缩潜在编码 z，并通过匹配合成样本与原始数据在多个 EEG 解码模型中的特征分布来优化 z。摘要将这一过程称为集成特征匹配，但具体损失形式、解码模型配置及优化细节尚未验证。 作者报告，在三个 EEG 数据集上的实验中，凝缩数据集在有限样本量条件下取得更优分类表现，并能有效抵御成员推断攻击（MIA）。摘要未提供数据集名称、被试数量、被试内或跨被试等评估协议、对照方法及具体指标，因此无法量化收益，也不能据此认定对其他隐私攻击同样有效。 复现时需核对凝缩样本预算、DDIM 训练与采样设置、特征匹配模型及下游解码模型的关系，以及原始数据、潜在编码和扩散模型权重各自的存储与发布成本。隐私结论需结合 MIA 的攻击者能力、访问权限和评估协议解释；合成信号不与原始信号视觉相似，本身不等于隐私保证。实验协议、消融及统计信息尚未验证。

    阅读价值：值得关注其将确定性 DDIM 与多解码模型特征匹配结合的 EEG 数据集凝缩机制，但分类收益与隐私保护结论仍需结合数据划分、存储核算及 MIA 威胁模型核对。

  2. OpenReview · EEG74

    EEGCiD：将 EEG 凝缩到扩散模型中

    EEGCiD 针对 EEG 模型开发所需大量数据带来的存储与共享隐私问题，提出将原始数据集知识凝缩到扩散模型及小规模潜在编码集合中的方法，以生成信息集中的合成 EEG 样本，而非以外观接近原始信号为主要目标。基于摘要分析，未取得论文全文。 核心机制分为知识建模与数据凝缩两个阶段：首先使用原始 EEG 数据预训练确定性 denoising diffusion implicit model（DDIM），以保存数据集知识；其骨干采用包含空间与时间自注意力模块（STSA）的 transformer，替代传统 U-Net。随后，从原始数据集中随机选取样本子集，经 DDIM 前向过程得到凝缩潜在编码 z，再通过匹配合成样本与原始数据在多个 EEG 解码模型中的特征分布来优化 z。该集成特征匹配策略意在将对解码任务有用的信息集中到较小的合成数据集中；具体损失形式、解码模型组合及优化细节尚未验证。 作者报告，在三个 EEG 数据集上，凝缩数据集在有限样本条件下取得较好的分类表现，并能有效防御成员推断攻击（MIA）。摘要未提供数据集名称、任务、被试数、被试内或跨被试划分、凝缩样本规模、分类指标数值及对照设置，因此无法量化分类收益，也不能比较不同协议下的效果。实验协议、消融及统计信息尚未验证。 复现与应用评估需核对 DDIM 预训练成本、潜在编码优化成本，以及生成合成数据所需模型权重是否计入总存储开销。隐私结论还需核对 MIA 的攻击者能力、访问权限和评估指标；合成样本不与原始信号外观相似，本身不能构成隐私保证。作者报告的 MIA 防护效果应限定于其实际测试设置，不能据此推断身份或健康信息的其他泄露风险均已消除。

    阅读价值：值得阅读其将确定性 DDIM 与多解码模型特征分布匹配结合的 EEG 数据凝缩机制，但分类收益与成员推断攻击防护效果仍需结合压缩规模、评估协议和攻击设置核对。

  3. OpenReview · EEG72

    EEGDM：基于生成式扩散模型的 EEG 表征学习

    基于摘要分析。该研究针对 EEG 标注有限、信号变异性高导致的表征学习困难，提出生成式扩散表征学习框架 EEGDM，并将预训练得到的潜在 EEG 表征用于下游分类，探索区别于现有 EEG 基础模型的技术路径。 核心机制是用于扩散预训练的结构化状态空间模型 SSMDP：作者以其捕获 EEG 的时间动态，并在 Denoising Diffusion Probabilistic Model（DDPM）框架下训练。随后，作者提出 latent fusion transformer（LFT），利用所得潜在表征完成分类。摘要未说明扩散噪声设定、具体训练目标、潜在表征提取位置及 LFT 的融合方式，这些实现细节尚未验证。 评估采用涉及发作间期癫痫样放电的 TUEV 与涉及癫痫发作检测的 CHB-MIT，并与现有方法及 EEG 基础模型比较。作者报告 EEGDM 优于所比较的方法，但摘要未提供具体指标、数值、基线名单及被试内或跨被试等划分信息，因而尚不能判断优势幅度、统计可靠性或跨协议泛化能力。这些任务属于 EEG 临床事件识别，不能直接视为已验证的 BCI 控制效果。 作者将大型 EEG 基础模型的训练与推理成本、模型增大时收益有限作为研究动机，但摘要并未给出 EEGDM 的参数量、训练开销或推理效率，不能据此确认其计算成本优势。复现时需核对数据预处理、预训练与下游数据的划分关系、分类协议、基线配置以及 SSMDP 和 LFT 的独立贡献；实验协议、消融及统计信息尚未验证。摘要提供了源码与 checkpoint 链接，但其内容、可运行性和复现实验条件尚未核验。

    阅读价值：值得核对其以结构化状态空间模型进行扩散预训练、再融合潜在 EEG 表征的机制，以及相对 EEG 基础模型的分类收益与计算成本；摘要中的性能优势尚需结合完整实验协议验证。

11月12日周二
  1. OpenReview · Representation learning76

    通过指令微调进行无监督文本表示学习，用于零样本稠密检索

    基于摘要分析。该研究针对稠密检索依赖标注数据、低资源场景难以获得监督信号的问题，在双编码器检索框架下对预训练编码器—解码器 LLM 进行指令微调，以学习无监督文本表示并改善零样本检索。 核心机制包含两部分：利用指令微调后的 LLM 生成与语料文本相关的合成查询，并以这些查询的表示增强语料表示；再通过 self-instruct tuning 对齐查询与语料文本的表示。作者将表示增强的理论依据关联到 Rao-Blackwell 定理，但摘要不足以核对其具体估计量、适用假设、表示组合方式及训练目标。 作者在低资源设置下，使用三个英语、两个德语和一个葡萄牙语检索数据集，以 NDCG@10、MRR@100 和 Recall@100 评估方法。作者报告所有指标的平均零样本检索表现均得到改善，相对开箱即用的 FLAN-T5 不同模型变体，绝对 NDCG@10 增益区间为 [4.73%, 6.15%]（保留摘要原文数值表述），并超过四个有监督稠密检索器。数据集名称、训练与测试划分、各指标分项结果、模型规模、对照训练条件及统计显著性检验尚未验证，不能据此认定在所有单独数据集上均占优。 平台推测（待验证）：其较直接的 BCI 应用是领域文献或实验记录的文本检索，而非 EEG 信号表征学习。迁移假设依赖生成模型能够产生准确的 BCI 专业查询；可复用合成查询增强与表示对齐思路，但需验证术语错误和生成偏差是否损害检索。摘要未提供将该机制映射到 EEG 时序、通道或跨被试结构的依据，不能推断其提升 EEG 解码；相关 EEG 工作尚未检索确认。复现还需核对指令模板、合成查询生成设置、表示聚合方式与实现可用性。

    阅读价值：值得核对其利用合成查询增强文档表示并通过自指令微调对齐查询与文档的机制，以及低资源零样本检索增益对模型规模、数据划分和对照设置的依赖。

9月26日周四
  1. OpenReview · EEG76

    以大型时空 Transformer 为基础模型学习鲁棒 EEG 表征

    基于摘要分析。研究针对 EEG 基础模型难以适应不同记录配置、BCI 控制范式及有限标注数据的问题，提出时空 EEG Transformer（ST-EEGFormer），通过自监督预训练与下游微调学习可迁移的 EEG 表征。其主要贡献是将不同通道配置和信号时长的建模，与跨 MI、P300、SSVEP 范式的适应性评估结合起来。 方法将原始 EEG 切分为片段（patches），投影到嵌入空间，并加入空间与时间嵌入。作者以掩码自编码器（MAE）任务进行自监督预训练，预训练数据由六个公开运动想象（MI）数据集、一个公开 P300 数据集和一个公开稳态视觉诱发电位（SSVEP）数据集组成。摘要未提供片段长度、空间位置编码方式、掩码策略、重建目标细节或模型规模，尚不能确认其处理不同通道配置的具体实现条件。 评估包括预训练所涉及八个数据集上的下游分类微调，以及两个未参与预训练的公开数据集：癫痫发作分类数据集和在线 MI BCI 数据集。对照模型包括简单线性模型、EEGNet、监督学习模型 EEG Conformer，以及基础模型 BIOT 和 Large Brain Model（LaBraM）。作者报告，预训练后的 ST-EEGFormer 在八个预训练数据集的下游分类中均取得高于所比较模型的 Accuracy，并在新数据集、有限训练数据条件下表现出较强泛化能力；摘要未给出具体数值或有限数据的规模。 这些结果支持进一步核查统一时空表征与 MAE 预训练的适应性，但不能直接解释为已验证的跨被试、跨会话或无需微调的泛化。数据集名称、被试数、训练与测试划分、预训练与评估样本的关系、各基线微调预算、消融及统计信息尚未验证。作者还提供模型及支撑结果的特征可视化，其解释性结论需结合正文审阅；代码、权重与完整复现条件尚未验证。

    阅读价值：值得阅读其跨 MI、P300 与 SSVEP 范式的统一预训练设计，以及在未参与预训练的数据集上检验有限训练数据条件下泛化能力的实验；作者报告的优势仍需结合具体划分、微调预算与统计结果核对。

1月1日周一
  1. OpenReview · EEG79

    EEGPT：通过自回归预训练释放 EEG 通用基础模型的潜力

    EEGPT 针对 EEG 数据格式多样、预训练范式与迁移方法受限的问题，结合电极级建模、自回归预训练和多任务迁移，旨在构建可适配不同采集设备、被试与任务的通用 EEG 基础模型。基于摘要分析，未取得论文全文。 核心机制：作者将每个电极作为基本建模单元，以整合不同电极配置的 EEG 数据；摘要称预训练数据涉及最多 138 个电极，共计 37.5M 个预训练样本，但样本单位、切片方式及数据组成尚未验证。预训练采用 next signal prediction，而非传统 masked autoencoder，目标是捕捉 EEG 的序列与时间依赖；具体预测粒度、序列组织、损失函数与推理流程尚未验证。作者还探索了参数规模最高为 1.1B 的模型的 scaling laws，但摘要未提供规模与性能之间的定量关系。 迁移机制：作者提出跨任务共享的可学习电极图网络，用于多任务迁移学习，并报告任务间具有兼容性与协同作用。摘要称模型支持最多 138 个电极及其任意组合输入；电极身份编码、不同设备的输入对齐方式、缺失电极处理和任务特定模块仍需核对正文。 结果与证据边界：作者报告在覆盖 5 个不同任务的 12 个 benchmarks 上进行评估，并在全部下游任务中优于现有专用模型，同时称广泛消融支持其有效性。摘要未列出任务与数据集名称、被试数、被试内或跨被试等划分协议、基线、指标及数值，因此不能据此量化优势，也不能确认跨设备、跨被试适配的具体评估前提。实验协议、消融及统计信息尚未验证。 复现重点是核对异构数据整合规则、自回归目标与电极图迁移各自的贡献，以及预训练数据和下游评估的关系。摘要中的“首次”及“最大”等表述属于作者主张，尚未独立核实。作者表示将发布代码和模型，当前材料不能确认其已公开。

    阅读价值：值得核对其电极级建模、自回归预训练与共享电极图的多任务迁移如何协同处理异构 EEG，并复现作者报告的跨任务优势；具体划分、对照与统计证据尚未验证。

9月23日周六
  1. OpenReview · Representation learning76

    面向机器人操作的人类导向表征学习

    基于摘要分析。该研究针对机器人操作中的视觉表征学习，提出在预训练视觉编码器上进行人类导向的多任务微调：以手部检测、状态估计等与人类—环境交互相关的感知技能作为学习任务，并通过 Task Fusion Decoder 引导表征编码这些技能共同需要的结构，服务于下游机器人操作策略学习。 核心机制是将 Task Fusion Decoder 作为即插即用的嵌入转换模块，利用不同感知技能之间的潜在关系来指导表征学习。与仅依赖自监督目标的视觉表征相比，作者主张，联合学习多个简单但与交互相关的感知技能，更适合为机器人操作提供可泛化表征。摘要未说明任务关系的具体建模方式、监督来源、损失形式，以及视觉编码器与解码器的训练配置，这些细节尚未验证。 作者报告，在覆盖多种机器人任务与机器人形态的仿真及真实环境实验中，Task Fusion Decoder 持续改善了 R3M、MVP 和 EgoVLP 三种视觉编码器用于下游操作策略学习的表征。摘要未提供具体数据集、数据划分、评估指标、提升幅度或逐项对照结果，因此尚不能量化增益或判断不同实验之间的可比性；实验协议、消融及统计信息尚未验证。摘要指向包含演示、数据集、模型和代码的项目页面，但资源内容与复现条件尚未核验。 平台推测（待验证）：可迁移的假设是，通过与目标任务相关的辅助感知任务及其关系约束，缓解 EEG 表征与下游任务需求不匹配的问题。原方法依赖视觉输入及多任务监督，迁移时需将视觉编码器和感知任务替换为 EEG 编码器及有明确监督依据的辅助任务，并重新定义任务间关系；不能直接沿用手部检测等视觉技能。低信噪比、跨被试与通道差异、小样本监督可能导致辅助任务学习伪相关或产生负迁移。一个可检验的小实验是在固定 EEG 数据划分和监督预算下，对比单任务微调、多任务微调及加入任务融合模块的方案，观察跨被试性能是否稳定改善。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 Task Fusion Decoder 如何利用感知技能间的关系改进预训练表征，以及其在不同视觉编码器和机器人操作任务中的增益是否具有一致的评估依据。

9月22日周五
  1. OpenReview · EEG71

    通过几何感知建模学习拓扑无关的 EEG 表征

    基于摘要分析。该研究针对不同 EEG 数据资源的通道选择不一致，以及信号固有的结构与空间信息难以统一利用的问题，提出将不同通道选择映射到统一拓扑，并在此基础上构建 MMM 预训练框架，以学习拓扑无关的 EEG 表征、支持跨数据集预训练。 MMM 包含 Multi-dimensional position encoding（多维位置编码）、Multi-level channel hierarchy（多级通道层级）和 Multi-stage pre-training strategy（多阶段预训练策略）。摘要明确的机制路径是先统一通道拓扑，再通过上述三个组件组织空间信息、通道层级及预训练过程；但统一拓扑的具体定义、通道映射方式、位置编码构造、层级组织及各训练阶段的目标尚未验证，不能据此推断网络结构或损失形式。 作者报告，该方法在情绪识别基准数据集上相较此前最先进方法取得明显提升。摘要未提供数据集名称、指标、数值、对照方法或数据划分，因此不能量化提升，也不能判断结果属于 Within-subject、Cross-subject 或 Cross-dataset 评估。支持跨数据集预训练是研究目标，不等同于已经验证跨数据集下游泛化；实验协议、消融及统计信息尚未验证。 复现时应优先核对统一拓扑如何处理通道缺失与不同电极配置、预训练数据如何组合，以及三个组件各自的贡献。尤其需要确认情绪识别评估中的被试与数据集划分、预训练和下游数据的关系，以及比较方法是否采用相同协议。这些均是需全文核对的事项，而非已发现的研究缺陷。

    阅读价值：值得阅读的具体原因是其以统一通道拓扑连接不同 EEG 资源，并结合位置编码、通道层级与分阶段预训练；这些设计为跨数据集预训练提供了可核对的机制路径，但性能增益及跨通道配置泛化仍需全文验证。