跳到正文

算法、任务与模态

Pretraining 最新动态

Pretraining 研究索引；按可核对的标签归档，不以热度评价质量。

136 条精选近 30 天 83 条共收录 154 条

更新

精选归档 · 第 7 页

6月18日周二第 121–136 条
  1. OpenReview · State space models75

    ProtMamba：一种感知同源性但无需序列比对的蛋白质状态空间模型

    基于摘要分析。ProtMamba 针对蛋白质设计中如何利用同源序列的进化信息、同时避免依赖不完善的多序列比对构建流程这一问题，提出基于 Mamba 的蛋白质语言模型。其核心贡献是将拼接的同源序列作为长上下文输入，在不进行序列比对的情况下建模同源信息。 机制与训练：模型在大规模拼接同源序列数据上训练，通过 fill-in-the-middle 目标结合自回归与掩码语言建模。作者报告，相比基于注意力的模型，ProtMamba 能高效处理包含数百条蛋白质序列的长上下文。摘要未给出数据集名称、具体规模、模型参数量、目标实现及计算效率测量条件，这些信息尚未验证。 结果与证据边界：作者报告模型可用于新序列生成和适应度预测，并在模型规模较小的情况下取得与其他蛋白质语言模型有竞争力的表现，认为这体现了长上下文条件信息的重要性。具体指标、对照模型、数据划分、同源关系控制、消融及统计信息尚未验证，因此不能据此判断性能提升幅度或将效果单独归因于 Mamba、同源上下文或训练目标。 平台推测（待验证）：其长上下文条件建模机制可能为 EEG 中利用多段相关记录提供思路，但蛋白质同源序列的进化关系并不等同于跨被试或跨会话的 EEG 关联。迁移假设依赖可靠的记录分组与上下文构造，需要改造连续信号表示、通道编码和训练目标；低信噪比、通道差异及小数据可能使长上下文引入无关信息。一个可检验的小实验是在固定 EEG 任务与数据划分下，比较相关记录上下文、随机记录上下文和无上下文条件，检验收益是否来自上下文相关性。该实验仅为迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体原因是 ProtMamba 以无需多序列比对的同源序列长上下文建模探索进化信息利用，并结合 fill-in-the-middle 训练目标；其性能与规模优势仍需结合全文中的评估协议和对照核验。

1月16日周二
  1. OpenReview · Representation learning81

    面向强化学习的原则性视频表征学习

    基于摘要分析。该研究探讨如何利用视频预训练面向决策的表征，核心目标是恢复底层 MDP 的潜在状态，并从理论上刻画不同噪声条件下的学习难度。研究比较 autoencoding、temporal contrastive learning 与 forward modeling，区分观测中的 iid 噪声，以及具有时间相关性的外生噪声，例如背景中人员或车辆的运动。 理论方面，作者报告：在仅有 iid 噪声的设定下，为 temporal contrastive learning 和 forward modeling 建立了上界，表明这些方法能够学习潜在状态，并支持具有多项式样本复杂度的下游 RL。在同时存在外生噪声的设定下，作者建立下界，说明从视频学习的样本复杂度可能比从带动作标签的轨迹学习呈指数级恶化。该结论针对摘要所述设定，不宜扩展为所有视频预训练方法均无效；定理所需的可辨识性条件、数据生成假设及复杂度依赖项尚未验证。 实验方面，作者报告在两个视觉领域评估了这些表征学习方法，结果与理论发现一致。摘要未提供领域名称、数据规模、划分、对照细节或具体指标；autoencoding 的具体理论结论，以及实验协议、消融及统计信息尚未验证。摘要也未说明实现与复现资源。 平台推测（待验证）：若将视频中的潜在状态与外生干扰结构对应到 EEG，本文可为区分任务相关动态与时间相关干扰提供分析视角，但前提是潜在状态及决策结构的假设适用。可借鉴的是噪声分类与表征目标的比较框架；观测建模和决策接口需针对 EEG 改造。低信噪比、跨被试差异、通道变化及小数据都可能破坏状态可辨识性，不能由视觉领域结论推出 BCI 效果。一个可检验的小实验是在可控潜在状态的多通道模拟信号中，分别加入 iid 与时间相关干扰，比较上述表征方法的状态恢复能力，并在明确记录动作的决策设定中加入带动作标签的轨迹对照。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其对 iid 噪声与时间相关外生噪声的理论区分，以理解视频预训练何时支持高效下游 RL、何时相较带动作标签的轨迹面临样本复杂度障碍；具体定理条件尚待全文核对。

  2. OpenReview · Representation learning76

    理解 CLIP 中的可迁移表征学习与零样本迁移

    基于摘要分析。本文研究 CLIP 如何通过视觉—语言对比预训练学习可迁移的联合表征，以及这些表征为何能支持下游零样本迁移；贡献包括跨模态特征对齐的形式化分析、零样本迁移性能分析，以及由理论分析启发的新 CLIP-type 方法。 机制与证据：CLIP 利用图像与文本两种模态的对比预训练学习联合表征。本文围绕不同模态的特征如何对齐展开理论研究，并以真实数据实验支持理论分析。摘要未提供理论假设、对齐的数学定义、性能界或新方法的具体改动，因此尚不能判断其结论依赖何种数据结构、监督条件与训练规模，也不能将其归纳为某种具体损失或网络结构。 结果与核验：作者报告，新 CLIP-type 方法在基准数据集上优于 CLIP 及其他当时的先进方法。摘要没有给出数据集名称、任务、划分、指标或提升幅度；实验协议、消融及统计信息尚未验证。复现需进一步核对预训练数据、对照模型、零样本提示与评估设置，以及实现和计算资源要求。 平台推测（待验证）：跨模态对齐分析可能为 EEG 与文本或其他模态的联合表征研究提供理论视角，但这是迁移假设，不是本文已验证的 BCI 结果。可借鉴的是对齐与迁移的分析思路；EEG 编码、配对语义和时序聚合需另行设计，低信噪比、跨被试差异、通道配置与小样本可能削弱对齐效果。由于具体方法和理论条件尚不明确，目前不宜据此制定方法级复现实验；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其对 CLIP 跨模态特征对齐与零样本迁移的理论分析，但新方法的性能优势及其对 EEG 的适用性仍需结合全文与实验协议核验。

  3. OpenReview · Representation learning74

    基于细粒度交互的蛋白质–配体结合表征学习

    基于摘要分析。该研究针对蛋白质–配体结合预测中监督数据有限、模型泛化受限的问题，提出以细粒度交互为核心的自监督表征学习方法。不同于分别预训练蛋白质和配体的思路，作者将预训练表述为：给定结合口袋与配体，预测最终结合复合物结构。 机制上，方法采用基于 Transformer 的交互模块，并设置原子对距离图预测与配体掩码重建两项预训练任务，分别从结构空间和特征空间建模结合交互。摘要未说明距离图的具体覆盖范围、掩码策略、损失形式及任务组合方式，这些实现细节尚未验证。 作者报告，该方法在蛋白质–配体亲和力预测、虚拟筛选和蛋白质–配体对接等任务中表现优于对照方法，但摘要未提供数据集、数据划分、基线名称、指标或数值，因而无法判断优势幅度及泛化边界。实验协议、消融及统计信息尚未验证；复现还需核对预训练数据来源、复合物结构处理、下游训练设置，以及代码和模型权重的可用性。 平台推测（待验证）：可借鉴的是“显式关系预测与掩码重建联合预训练”的机制，而非直接移植分子结合模型。其原始任务依赖结合口袋、配体及原子级结构关系；EEG 中可假设用通道间关系预测辅助掩码信号重建，以应对标注有限时的表征学习问题。可复用交互建模和双任务框架，但需改造输入编码与关系目标，不能将原子距离直接等同于 EEG 功能连接。低信噪比、参考方式、跨被试差异和通道配置变化均可能使关系目标不稳定，小数据下也可能学到伪迹。一个可证伪的小实验是：在固定 Cross-subject 划分和相同预训练数据条件下，对比仅掩码重建与加入关系预测的模型，检验下游性能及通道扰动稳定性是否改善。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其以原子对距离预测和配体掩码重建联合学习细粒度交互的自监督机制，但摘要中的多任务优势仍需结合完整实验协议核对，向 EEG 的迁移尚未验证。

1月1日周一
  1. OpenReview · EEG79

    EEGPT：通过自回归预训练释放 EEG 通用基础模型的潜力

    EEGPT 针对 EEG 数据格式多样、预训练范式与迁移方法受限的问题，结合电极级建模、自回归预训练和多任务迁移，旨在构建可适配不同采集设备、被试与任务的通用 EEG 基础模型。基于摘要分析，未取得论文全文。 核心机制：作者将每个电极作为基本建模单元，以整合不同电极配置的 EEG 数据；摘要称预训练数据涉及最多 138 个电极，共计 37.5M 个预训练样本，但样本单位、切片方式及数据组成尚未验证。预训练采用 next signal prediction，而非传统 masked autoencoder，目标是捕捉 EEG 的序列与时间依赖；具体预测粒度、序列组织、损失函数与推理流程尚未验证。作者还探索了参数规模最高为 1.1B 的模型的 scaling laws，但摘要未提供规模与性能之间的定量关系。 迁移机制：作者提出跨任务共享的可学习电极图网络，用于多任务迁移学习，并报告任务间具有兼容性与协同作用。摘要称模型支持最多 138 个电极及其任意组合输入；电极身份编码、不同设备的输入对齐方式、缺失电极处理和任务特定模块仍需核对正文。 结果与证据边界：作者报告在覆盖 5 个不同任务的 12 个 benchmarks 上进行评估，并在全部下游任务中优于现有专用模型，同时称广泛消融支持其有效性。摘要未列出任务与数据集名称、被试数、被试内或跨被试等划分协议、基线、指标及数值，因此不能据此量化优势，也不能确认跨设备、跨被试适配的具体评估前提。实验协议、消融及统计信息尚未验证。 复现重点是核对异构数据整合规则、自回归目标与电极图迁移各自的贡献，以及预训练数据和下游评估的关系。摘要中的“首次”及“最大”等表述属于作者主张，尚未独立核实。作者表示将发布代码和模型，当前材料不能确认其已公开。

    阅读价值：值得核对其电极级建模、自回归预训练与共享电极图的多任务迁移如何协同处理异构 EEG，并复现作者报告的跨任务优势；具体划分、对照与统计证据尚未验证。

  2. OpenReview · State space models72

    Event USKT：用于事件相机知识迁移的 U 形状态空间模型

    基于摘要分析。该研究针对事件相机数据有限、难以充分利用已有 RGB 预训练模型的问题，提出 U 形状态空间模型知识迁移框架 USKT。其核心贡献是生成与 RGB 帧兼容的输入，使事件数据能够复用 RGB 预训练模型，并引入采用共享权重策略的 Bidirectional Reverse State Space Model（BiR-SSM）。 机制上，摘要将 USKT 描述为 Event-to-RGB 知识迁移框架：通过输入兼容化连接事件数据与 RGB 模型，而非仅依赖事件数据训练新模型。BiR-SSM 与常规双向扫描机制的区别在于共享权重；作者认为该设计有助于高效建模并节省计算资源。具体事件表示、U 形结构、反向扫描方式、损失函数、冻结或调优的参数范围及推理成本尚未验证。 结果方面，作者报告，使用 ResNet50 作为骨干时，在 DVS128 Gesture、N-Caltech101 和 CIFAR-10-DVS 上的模型性能分别提升 0.95%、3.57% 和 2.9%。摘要未明确这些提升对应的指标、比较基线、数据划分，以及百分比是否表示相对增幅，因此不能将其改写为 Accuracy 的百分点提升，也不能跨数据集直接比较。实验协议、消融及统计信息尚未验证。材料称代码将在论文被接收后公开，当前代码可用性及接收状态均尚未验证。 平台推测（待验证）：可迁移假设是，输入兼容化与共享权重双向建模可能帮助数据有限的 EEG 任务复用预训练表示。但事件视觉数据与 EEG 的通道语义、时间结构和噪声特征不同，RGB 输入兼容不等于保留 EEG 判别信息。可考察状态空间建模及参数共享模块，输入映射则需针对 EEG 改造；低信噪比、跨被试差异、通道布局变化与小样本训练可能使映射丢失有效信息或过拟合。一个可证伪的小实验是在固定跨被试划分、相同预训练骨干和调优预算下，对比简单 EEG 输入映射与 USKT 式映射，并以取消双向权重共享作为对照，检查性能与计算成本是否同时改善。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 USKT 如何将事件数据转换为 RGB 预训练模型可用的输入，以及 BiR-SSM 的共享权重机制能否在减少参数调优与计算开销的同时保留任务信息；其 EEG 迁移价值尚未验证。

12月17日周日
  1. OpenReview · Representation learning78

    视频自监督表征学习的基准评估

    基于摘要分析。该研究针对视频自监督表征学习中实验设置不统一、方法间难以比较的问题，提出统一比较基准，并系统研究预训练数据及模型选择对下游表现的影响。作者还依据研究观察提出一种使用有限训练数据的方法，但摘要未说明其具体机制。 研究覆盖数据集规模、复杂度、数据分布、数据噪声和特征分析五个方面。作者报告，实验涉及七种方法、七种网络架构、五个数据集及两种下游任务；摘要未列出名称、数据划分、评估指标及各方法与架构的组合方式。这些数量仅说明研究覆盖范围，不能据此判断各设置之间的可比性。 作者报告，所提出方法在使用有限训练数据时，优于使用其十倍预训练数据的已有最先进方法。该结论对应的任务、指标、数据来源、对照方法与训练预算尚未验证，不能解读为通用的数据效率优势。复现时需核对统一基准如何控制架构、预训练预算和下游评估方式，以及各项观察是否得到消融与统计分析支持；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：对数据规模、分布和噪声的分项评估思路，可用于考察 EEG 自监督预训练在小数据和跨被试条件下的稳定性；可复用的是评估框架，而非尚未披露的视频方法机制。若用于 EEG，需改造输入表示、预训练任务与噪声设置，并控制被试划分。低信噪比、通道差异和小样本可能改变视频领域观察到的规律。一个可检验的小实验是在固定模型与下游标注预算下，改变无标签 EEG 预训练数据规模和噪声强度，以固定跨被试划分检验表征收益是否稳定。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是其在统一评估条件下考察视频自监督学习对数据规模、分布及噪声等因素的依赖，可为预训练方法的公平比较提供参考；具体协议与结论适用范围尚未验证。

11月7日周二
  1. OpenReview · Representation learning73

    理解 CLIP 中的可迁移表征学习与零样本迁移

    基于摘要分析。本文研究 CLIP 的视觉—语言对比预训练为何能够形成可迁移表征，以及这些表征如何支持下游任务的零样本迁移。作者对跨模态特征对齐进行形式化分析，并据此提出一种新的 CLIP-type 方法。 机制与贡献：CLIP 通过视觉—语言对比预训练学习联合图像与文本表征；本文的分析重点是不同模态特征如何对齐，以及这种表征与下游零样本迁移性能之间的关系。摘要未提供理论假设、具体定理、损失形式或新方法相对 CLIP 的改动，因而尚不能判断其解释适用范围与实现条件。 结果与证据边界：作者报告，新方法在基准数据集上优于 CLIP 及其他被比较的方法，但摘要未列明数据集、任务、指标、数值和对照配置。实验协议、消融及统计信息尚未验证；复现还需核对训练数据、模型配置、评估流程及实现是否可获取。 平台推测（待验证）：假设跨模态对齐的理论条件也适用于 EEG 与文本或刺激表征的配对学习，该分析可能帮助理解 EEG 表征的语义迁移瓶颈，但视觉—语言领域的有效性不等于 BCI 有效性。可借鉴的是对齐与迁移的分析思路；EEG 编码器、配对粒度和语义监督需另行设计，原方法依赖的数据结构、监督条件及规模也需核对。低信噪比、跨被试差异、通道配置变化与小样本可能破坏对齐条件。待全文机制明确后，可在具有可靠刺激配对的 EEG 数据上，以相同数据划分和编码器比较 CLIP 式目标与新方法，检验留出被试或留出类别上的迁移表现是否改善。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其对 CLIP 跨模态特征对齐与零样本迁移的理论分析，但新方法的性能优势及其向 EEG 表征学习迁移的价值尚需核对全文与实验。

10月28日周六
  1. OpenReview · Representation learning73

    自监督跨表表征学习的规模扩展实验

    基于摘要分析。该研究关注深度表格表征学习的规模扩展潜力，提出面向单表与跨表学习的 Transformer 架构，并通过自监督掩码单元格恢复进行预训练，考察模型规模与预训练设置对表征质量的影响。 核心机制是使用表特定 tokenizer 处理不同表格，并共享 Transformer 主干；训练以缺失值插补为任务，通过恢复被掩码的单元格学习表征。摘要未说明 tokenizer 如何编码列类型、表结构与单元格，也未给出掩码策略或具体损失形式。 作者报告，规模实验覆盖约 10^4 至 10^7 参数的模型，预训练数据由 76 个不同数据集组成，共包含 135 M 个训练 token。评估分别考察单表与跨表预训练设置，在整理的基准数据集上使用线性探测，并与常规基线比较。摘要未列出基准名称、划分方式、基线名称或性能指标，因此尚不能判断规模收益、跨表迁移效果及其统计可靠性；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，将 EEG 的结构化试次特征视为表格，用数据集特定 tokenizer 接入共享主干，以应对不同特征布局下的表征复用问题。可复用部分是共享主干与掩码恢复目标；需改造特征编码、通道与频带对应关系，并明确跨被试、跨会话的划分。原方法依赖表格单元格结构与较大规模预训练数据，不能直接等同于原始 EEG 时序建模；低信噪比、通道差异及小数据可能使恢复目标偏向噪声或数据集特征。可检验的小实验是在固定 Cross-subject 划分及相同训练预算下，对比单数据集与跨数据集预训练后的冻结表征线性探测，且预训练排除测试被试。相关 EEG 工作尚未检索确认。

    阅读价值：该研究以表特定 tokenizer 与共享 Transformer 主干探索跨表自监督预训练及规模效应，值得核对其线性探测对照和跨表泛化协议，但摘要未提供性能结果。

10月8日周日
  1. OpenReview · Representation learning76

    表征投影不变性缓解表征坍塌

    基于摘要分析。本文研究预训练语言模型微调时的表征退化（表征坍塌）问题，提出 Representation Projection Invariance（REPINA）正则化，通过抑制不期望的表征变化来维持表征的信息含量。研究同时扩展了表征坍塌的分析，并提出若干量化指标。 机制与证据：摘要将 REPINA 描述为作用于微调过程的表征约束，但未提供投影操作、约束对象或损失的具体形式，这些细节尚未验证。作者报告，在包含 GLUE benchmark 和六个额外数据集的 13 项语言理解任务上，与 5 个可比基线进行域内评估时，REPINA 在其中 10 项任务上优于其他基线。作者还报告分布外表现改善、少样本设置下有效，以及对标签扰动具有鲁棒性；摘要未给出相应指标、效应大小及具体协议，不能据此比较不同评估条件下的收益。作者报告其方法更有效地缓解表征坍塌，但坍塌指标与下游性能之间的关系仍需核对正文。 平台推测（待验证）：迁移假设是，若预训练 EEG 表征在小样本任务微调中也出现信息退化，类似表征正则化可能有助于保留可迁移信息。原方法依赖预训练语言模型的上下文表征与下游微调流程；其具体监督条件、数据规模要求及投影机制尚未验证。可借鉴的是约束表征变化和量化坍塌的思路，需改造的是 EEG 时间窗、通道结构及预训练与微调表征的对应方式。低信噪比、跨被试差异及通道变化可能使约束保留噪声或被试特异信息，过强约束也可能阻碍任务适应。 可检验的小实验：取得完整方法后，在固定的 Cross-subject EEG 划分下，对同一预训练模型比较常规微调与加入 REPINA 的微调，统一标签预算和调参规则，同时观察任务指标及表征坍塌指标是否共同改善。此方案并非已验证结果；已有 EEG 相关工作尚未检索确认。完整实验协议、消融及统计信息尚未验证。

    阅读价值：REPINA 将微调中的表征坍塌缓解与域内、分布外及少样本表现联系起来，值得核对其正则化定义、坍塌度量及基线比较，但其对 EEG 微调的价值尚未验证。

9月26日周二
  1. OpenReview · Representation learning78

    URL：面向可迁移不确定性估计的表征学习基准

    基于摘要分析。研究关注预训练模型迁移到新数据集时，不确定性估计能否与表征一起可靠迁移，提出 Uncertainty-aware Representation Learning（URL）基准。该基准同时评估表征的迁移能力，并使用一项新指标衡量不确定性估计的零样本迁移能力；指标定义与具体计算方式尚未验证。 作者报告，在 ImageNet 上预训练、迁移至八个下游数据集的评估中，比较了十种不确定性估计方法：关注表征本身不确定性或直接估计预测风险的方法，优于基于上游类别概率的方法。摘要未提供下游数据集名称、具体方法清单、分数及数据划分，因此不能据此比较不同协议下的效果。作者认为，可迁移的不确定性量化仍是开放挑战，但不一定与传统表征学习目标冲突；这一判断的适用范围及统计支持需核对全文。 其评估思路区分了“表征能否支持下游任务”与“不确定性是否仍能反映下游风险”，有助于避免将上游类别置信度直接视为跨任务可靠性。来源提供了代码链接，但实现细节、运行条件、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：假设 EEG 预训练表征在跨被试或跨数据集迁移时仍包含可识别的风险信息，URL 的双重评估思路可能用于检验表征质量与不确定性质量是否同步变化。可复用的是评估框架；需改造的是 EEG 编码器、下游任务接口及与任务风险对应的评价实现。低信噪比、通道差异和小样本可能使不确定性主要反映采集条件，而非预测错误。一个可检验的小实验是在固定的 Cross-subject 划分下，比较表征不确定性与上游类别概率对下游错误的识别能力，并同时报告任务性能。此处为迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：URL 将表征迁移能力与不确定性估计的零样本迁移能力分开评估，值得用于核对预训练模型的不确定性是否能随表征一起迁移，但其对 EEG 的适用性尚未验证。

9月23日周六
  1. OpenReview · Representation learning76

    面向机器人操作的人类导向表征学习

    基于摘要分析。该研究针对机器人操作中的视觉表征学习，提出在预训练视觉编码器上进行人类导向的多任务微调：以手部检测、状态估计等与人类—环境交互相关的感知技能作为学习任务，并通过 Task Fusion Decoder 引导表征编码这些技能共同需要的结构，服务于下游机器人操作策略学习。 核心机制是将 Task Fusion Decoder 作为即插即用的嵌入转换模块，利用不同感知技能之间的潜在关系来指导表征学习。与仅依赖自监督目标的视觉表征相比，作者主张，联合学习多个简单但与交互相关的感知技能，更适合为机器人操作提供可泛化表征。摘要未说明任务关系的具体建模方式、监督来源、损失形式，以及视觉编码器与解码器的训练配置，这些细节尚未验证。 作者报告，在覆盖多种机器人任务与机器人形态的仿真及真实环境实验中，Task Fusion Decoder 持续改善了 R3M、MVP 和 EgoVLP 三种视觉编码器用于下游操作策略学习的表征。摘要未提供具体数据集、数据划分、评估指标、提升幅度或逐项对照结果，因此尚不能量化增益或判断不同实验之间的可比性；实验协议、消融及统计信息尚未验证。摘要指向包含演示、数据集、模型和代码的项目页面，但资源内容与复现条件尚未核验。 平台推测（待验证）：可迁移的假设是，通过与目标任务相关的辅助感知任务及其关系约束，缓解 EEG 表征与下游任务需求不匹配的问题。原方法依赖视觉输入及多任务监督，迁移时需将视觉编码器和感知任务替换为 EEG 编码器及有明确监督依据的辅助任务，并重新定义任务间关系；不能直接沿用手部检测等视觉技能。低信噪比、跨被试与通道差异、小样本监督可能导致辅助任务学习伪相关或产生负迁移。一个可检验的小实验是在固定 EEG 数据划分和监督预算下，对比单任务微调、多任务微调及加入任务融合模块的方案，观察跨被试性能是否稳定改善。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 Task Fusion Decoder 如何利用感知技能间的关系改进预训练表征，以及其在不同视觉编码器和机器人操作任务中的增益是否具有一致的评估依据。

  2. OpenReview · Representation learning79

    缓解多视图表征学习的样本低效问题

    基于摘要分析。本文研究计算机视觉中非对比自监督学习（NC-SSL）的样本与计算效率，围绕 BarlowTwins 和 VICReg 为何常依赖高维投影头及同一图像的两个增强视图提供理论解释，并据此提出低维投影头正则化与增加每样本增强视图的预训练建议。 机制方面，作者认为特征正交性比投影头维度更关键，并报告适当正则化可使低维投影头获得良好表征；具体正则化形式及理论成立条件尚未验证。另一项理论分析指出，多个数据增强视图更能体现自监督目标的要求。作者报告，增加每个样本的增强数量可改善表征质量、可训练性和优化收敛，使较好的特征更早出现。 结果方面，作者报告，仅增加数据增强即可在保持 Accuracy 并改善收敛的同时，将预训练数据集规模最多缩减至原来的四分之一；摘要未给出该结果对应的数据集、增强数量、基线设置和具体 Accuracy。作者另报告，结合上述建议，在使用 ResNet-50 backbone 的 CIFAR-10/STL-10 实验中取得性能提升及 2 倍实际运行时间效率改进，但具体耗时、性能指标和比较条件尚未验证。实验协议、消融及统计信息尚未验证，需全文核对增强带来的额外计算成本如何计入效率比较。 平台推测（待验证）：迁移假设是，特征正交性约束及多视图自监督目标可能帮助缓解 EEG 小数据预训练中的表征冗余与收敛问题。可复用的是损失分析思路、投影头及多视图训练框架；需改造的是图像增强，转为能保留任务相关信息的 EEG 增强。该假设依赖同一样本不同视图共享有效信息，低信噪比、通道差异及跨被试分布变化可能使增强破坏标签语义或强化噪声。一个可检验的小实验是在固定被试划分和计算预算下，对比两个与更多增强视图，并交叉比较高维投影头和带正则化的低维投影头，观察收敛速度及下游任务 Accuracy。已有 EEG 相关工作尚未检索确认，原图像实验不构成 BCI 有效性证据。

    阅读价值：该研究将 BarlowTwins 与 VICReg 的损失隐式偏置联系到投影头维度和增强视图数量，为核对非对比自监督预训练的样本与计算效率提供了具体理论及实验线索，但其 EEG 适用性尚未验证。

  3. OpenReview · Representation learning76

    用于鲁棒表征学习的上下文视觉 Transformer

    基于摘要分析。研究针对不同群组间潜在因素变化导致的图像分布偏移，提出 Contextual Vision Transformers（ContextViT），通过群组上下文条件化图像表征，并在推理时适应新的测试分布。 核心机制借鉴 in-context learning：将与输入图像属于同一群组的图像信息映射为额外的 context token，再将其附加到输入图像 tokens 中，使表征随群组上下文调整。作者另引入 context inference network，从某一群组的一批样本即时预测 context token。该机制依赖可用的群组归属及同组样本；摘要未说明群组的具体定义、上下文聚合方式、训练损失或测试时是否更新模型参数，因此不能将其直接等同于参数更新式测试时自适应。 作者报告，在监督微调设置下，为预训练 ViTs 加入上下文条件化机制，在 iWildCam 和 FMoW 上持续改善分布外泛化；在自监督表征学习设置下，ContextViT 在 Camelyon17 病理图像及 JUMP-CP 显微图像基准上，比对应 ViT 获得更稳定的分布偏移下图像表征。摘要未给出指标数值、数据划分或效应大小，实验协议、消融及统计信息尚未验证。复现时需核对群组构造、上下文批次采样、预训练条件与基线配置。 平台推测（待验证）：迁移假设是，EEG 的被试或会话可作为群组，上下文条件化可能帮助处理跨被试或跨会话分布变化。可复用 context token 与上下文推断思路，但需将图像 token 编码改为 EEG 时序或时空编码，并明确测试群组可用样本及监督条件。低信噪比、小批次、通道配置差异，以及同组任务类别比例变化，都可能使上下文混入噪声或任务内容。一个可检验的小实验是在固定 Cross-subject 划分下，以同一 EEG 编码器比较无上下文与同组上下文条件化，并加入打乱群组的对照；严格固定测试上下文采样规则，检验增益是否来自有效群组信息。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其由同组样本推断 context token 的机制及测试时分组协议：这为利用群组上下文处理分布偏移提供了具体方法，但其对 EEG 跨被试或跨会话表征的价值尚未验证。

9月22日周五
  1. OpenReview · EEG71

    通过几何感知建模学习拓扑无关的 EEG 表征

    基于摘要分析。该研究针对不同 EEG 数据资源的通道选择不一致，以及信号固有的结构与空间信息难以统一利用的问题，提出将不同通道选择映射到统一拓扑，并在此基础上构建 MMM 预训练框架，以学习拓扑无关的 EEG 表征、支持跨数据集预训练。 MMM 包含 Multi-dimensional position encoding（多维位置编码）、Multi-level channel hierarchy（多级通道层级）和 Multi-stage pre-training strategy（多阶段预训练策略）。摘要明确的机制路径是先统一通道拓扑，再通过上述三个组件组织空间信息、通道层级及预训练过程；但统一拓扑的具体定义、通道映射方式、位置编码构造、层级组织及各训练阶段的目标尚未验证，不能据此推断网络结构或损失形式。 作者报告，该方法在情绪识别基准数据集上相较此前最先进方法取得明显提升。摘要未提供数据集名称、指标、数值、对照方法或数据划分，因此不能量化提升，也不能判断结果属于 Within-subject、Cross-subject 或 Cross-dataset 评估。支持跨数据集预训练是研究目标，不等同于已经验证跨数据集下游泛化；实验协议、消融及统计信息尚未验证。 复现时应优先核对统一拓扑如何处理通道缺失与不同电极配置、预训练数据如何组合，以及三个组件各自的贡献。尤其需要确认情绪识别评估中的被试与数据集划分、预训练和下游数据的关系，以及比较方法是否采用相同协议。这些均是需全文核对的事项，而非已发现的研究缺陷。

    阅读价值：值得阅读的具体原因是其以统一通道拓扑连接不同 EEG 资源，并结合位置编码、通道层级与分阶段预训练；这些设计为跨数据集预训练提供了可核对的机制路径，但性能增益及跨通道配置泛化仍需全文验证。

  2. OpenReview · Representation learning81

    面向一般任务空间的主动表征学习及其机器人应用

    基于摘要分析。本文研究多任务预训练中应从哪些源任务采样，提出主动表征学习的算法与理论框架，同时覆盖面向特定目标任务和面向一类任务的通用表征学习，支持从离散到连续的源任务与目标任务空间。 核心机制是主动选择源任务，而非被动分配采样。作者提出可操作的元算法，并给出双线性、基于特征的非线性及一般非线性情形的实例，称其兼容深度表征学习实践。摘要未提供具体采样准则、模型结构、损失函数及训练流程。 作者报告，在双线性情形下，利用任务表征的非均匀谱和经校准的源—目标相关性，达到目标任务 ε 超额风险所需的样本复杂度随 (k*)²‖v*‖₂²ε⁻² 缩放；其中 k* 为目标的有效维度，‖v*‖₂²∈(0,1] 描述源与目标空间的联系。摘要将相对被动方法的样本复杂度节省表述为最高 1/d_W，d_W 为任务空间维度；这一表述的精确定义及适用假设需核对全文，不宜直接换算为百分比。 作者在合成数据、摆系统仿真与真实无人机飞行数据上验证不同实例，报告相对基线平均提升 20%–70%。摘要未说明对应指标、基线、数据划分及各任务结果，因此不能将该范围解释为 Accuracy 提升或直接跨任务比较。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：假设 EEG 中的被试或会话可建模为源任务，且存在可估计的源—目标相关性，该框架可能用于有限预算下选择预训练数据。可复用的是任务采样策略，需改造任务描述、相关性估计与 EEG 编码器；其依赖多源任务数据及可比较的学习反馈。低信噪比、通道差异和小样本可能使相关性估计不稳定，导致负迁移。一个可证伪的小实验是固定编码器、总采样预算与目标训练数据，在相同 Cross-subject 划分下比较主动源任务采样和均匀采样，并报告目标被试上的同一指标及不确定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是其将源任务主动选择统一到面向特定目标与任务无关的表征学习框架，并以源—目标相关性解释采样效率；理论条件与机器人实验中的提升指标仍需全文核对。