跳到正文

算法、任务与模态

Pretraining 最新动态

Pretraining 研究索引；按可核对的标签归档，不以热度评价质量。

206 条精选近 30 天 104 条共收录 246 条

更新

精选归档 · 第 11 页

9月23日周六第 201–206 条
  1. OpenReview · Representation learning76

    用于鲁棒表征学习的上下文视觉 Transformer

    基于摘要分析。研究针对不同群组间潜在因素变化导致的图像分布偏移，提出 Contextual Vision Transformers（ContextViT），通过群组上下文条件化图像表征，并在推理时适应新的测试分布。 核心机制借鉴 in-context learning：将与输入图像属于同一群组的图像信息映射为额外的 context token，再将其附加到输入图像 tokens 中，使表征随群组上下文调整。作者另引入 context inference network，从某一群组的一批样本即时预测 context token。该机制依赖可用的群组归属及同组样本；摘要未说明群组的具体定义、上下文聚合方式、训练损失或测试时是否更新模型参数，因此不能将其直接等同于参数更新式测试时自适应。 作者报告，在监督微调设置下，为预训练 ViTs 加入上下文条件化机制，在 iWildCam 和 FMoW 上持续改善分布外泛化；在自监督表征学习设置下，ContextViT 在 Camelyon17 病理图像及 JUMP-CP 显微图像基准上，比对应 ViT 获得更稳定的分布偏移下图像表征。摘要未给出指标数值、数据划分或效应大小，实验协议、消融及统计信息尚未验证。复现时需核对群组构造、上下文批次采样、预训练条件与基线配置。 平台推测（待验证）：迁移假设是，EEG 的被试或会话可作为群组，上下文条件化可能帮助处理跨被试或跨会话分布变化。可复用 context token 与上下文推断思路，但需将图像 token 编码改为 EEG 时序或时空编码，并明确测试群组可用样本及监督条件。低信噪比、小批次、通道配置差异，以及同组任务类别比例变化，都可能使上下文混入噪声或任务内容。一个可检验的小实验是在固定 Cross-subject 划分下，以同一 EEG 编码器比较无上下文与同组上下文条件化，并加入打乱群组的对照；严格固定测试上下文采样规则，检验增益是否来自有效群组信息。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其由同组样本推断 context token 的机制及测试时分组协议：这为利用群组上下文处理分布偏移提供了具体方法，但其对 EEG 跨被试或跨会话表征的价值尚未验证。

9月22日周五
  1. OpenReview · EEG71

    通过几何感知建模学习拓扑无关的 EEG 表征

    基于摘要分析。该研究针对不同 EEG 数据资源的通道选择不一致，以及信号固有的结构与空间信息难以统一利用的问题，提出将不同通道选择映射到统一拓扑，并在此基础上构建 MMM 预训练框架，以学习拓扑无关的 EEG 表征、支持跨数据集预训练。 MMM 包含 Multi-dimensional position encoding（多维位置编码）、Multi-level channel hierarchy（多级通道层级）和 Multi-stage pre-training strategy（多阶段预训练策略）。摘要明确的机制路径是先统一通道拓扑，再通过上述三个组件组织空间信息、通道层级及预训练过程；但统一拓扑的具体定义、通道映射方式、位置编码构造、层级组织及各训练阶段的目标尚未验证，不能据此推断网络结构或损失形式。 作者报告，该方法在情绪识别基准数据集上相较此前最先进方法取得明显提升。摘要未提供数据集名称、指标、数值、对照方法或数据划分，因此不能量化提升，也不能判断结果属于 Within-subject、Cross-subject 或 Cross-dataset 评估。支持跨数据集预训练是研究目标，不等同于已经验证跨数据集下游泛化；实验协议、消融及统计信息尚未验证。 复现时应优先核对统一拓扑如何处理通道缺失与不同电极配置、预训练数据如何组合，以及三个组件各自的贡献。尤其需要确认情绪识别评估中的被试与数据集划分、预训练和下游数据的关系，以及比较方法是否采用相同协议。这些均是需全文核对的事项，而非已发现的研究缺陷。

    阅读价值：值得阅读的具体原因是其以统一通道拓扑连接不同 EEG 资源，并结合位置编码、通道层级与分阶段预训练；这些设计为跨数据集预训练提供了可核对的机制路径，但性能增益及跨通道配置泛化仍需全文验证。

  2. OpenReview · Representation learning81

    面向一般任务空间的主动表征学习及其机器人应用

    基于摘要分析。本文研究多任务预训练中应从哪些源任务采样，提出主动表征学习的算法与理论框架，同时覆盖面向特定目标任务和面向一类任务的通用表征学习，支持从离散到连续的源任务与目标任务空间。 核心机制是主动选择源任务，而非被动分配采样。作者提出可操作的元算法，并给出双线性、基于特征的非线性及一般非线性情形的实例，称其兼容深度表征学习实践。摘要未提供具体采样准则、模型结构、损失函数及训练流程。 作者报告，在双线性情形下，利用任务表征的非均匀谱和经校准的源—目标相关性，达到目标任务 ε 超额风险所需的样本复杂度随 (k*)²‖v*‖₂²ε⁻² 缩放；其中 k* 为目标的有效维度，‖v*‖₂²∈(0,1] 描述源与目标空间的联系。摘要将相对被动方法的样本复杂度节省表述为最高 1/d_W，d_W 为任务空间维度；这一表述的精确定义及适用假设需核对全文，不宜直接换算为百分比。 作者在合成数据、摆系统仿真与真实无人机飞行数据上验证不同实例，报告相对基线平均提升 20%–70%。摘要未说明对应指标、基线、数据划分及各任务结果，因此不能将该范围解释为 Accuracy 提升或直接跨任务比较。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：假设 EEG 中的被试或会话可建模为源任务，且存在可估计的源—目标相关性，该框架可能用于有限预算下选择预训练数据。可复用的是任务采样策略，需改造任务描述、相关性估计与 EEG 编码器；其依赖多源任务数据及可比较的学习反馈。低信噪比、通道差异和小样本可能使相关性估计不稳定，导致负迁移。一个可证伪的小实验是固定编码器、总采样预算与目标训练数据，在相同 Cross-subject 划分下比较主动源任务采样和均匀采样，并报告目标被试上的同一指标及不确定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是其将源任务主动选择统一到面向特定目标与任务无关的表征学习框架，并以源—目标相关性解释采样效率；理论条件与机器人实验中的提升指标仍需全文核对。

  3. OpenReview · EEG75

    DeWave：用于 EEG 到文本翻译的 EEG 波形离散编码

    基于摘要分析。DeWave 研究开放词汇 EEG 到文本翻译，针对现有方法依赖眼动注视或事件标记进行词级分割的问题，提出通过离散 EEG 编码与预训练语言模型对齐的框架，并探索不依赖词级顺序标记的整段信号翻译。 核心机制是使用量化变分编码器生成离散 codex 表征，再将编码序列与预训练语言模型对齐。作者认为，文本–EEG 对比对齐训练能够缓解眼动注视顺序与词语顺序不一致的问题，而具有不变性的离散 codex 可减少个体 EEG 差异带来的干扰。摘要未提供量化实现、损失函数、训练阶段或语言模型名称，上述机制的具体实现及各模块贡献尚未验证。 作者报告，在 ZuCo Dataset 上，DeWave 达到 41.35 BLEU-1 和 33.71 Rouge-F，对应此前基线分别为 40.1 和 31.7。摘要未交代这一比较的被试内或跨被试协议、数据划分与基线名称，因此不能据此判断跨被试泛化能力。另在不使用词级顺序标记的整段 EEG 翻译条件下，作者报告 20.5 BLEU-1 和 29.5 Rouge-1。两组结果的输入条件不同，且 Rouge-F 与 Rouge-1 的指标表述不同，不宜直接作等价比较。 阅读全文时需核对离散表征的不变性如何约束与评估、训练和推理各自依赖哪些文本或事件信息，以及整段信号的切分与对齐方式。被试数量、实验划分、消融、统计信息和复现资源尚未验证。摘要中的结果不能直接证明系统已具备自由表达场景下的实时 BCI 能力；作者关于整段翻译的“首次”主张也尚未独立核验。

    阅读价值：值得阅读的具体原因是 DeWave 将离散 EEG 编码与预训练语言模型对齐，并报告了不依赖词级顺序标记的整段 EEG 到文本翻译结果；其对跨被试差异的缓解程度及推理条件仍需全文核验。

6月6日周二
  1. OpenReview · Representation learning76

    线性动力系统的多任务模仿学习

    基于摘要分析。本文研究线性动力系统中的高效模仿学习，通过跨源策略学习共享低维表征，再利用该表征限定目标策略类，以改善目标任务的样本效率。主要贡献是给出学习所得目标策略生成轨迹上的模仿误差界，并用仿真检验该界所提示的变化趋势。 方法分为两阶段：预训练阶段从 H 个源策略学习共享的 k 维表征；微调阶段以该表征参数化目标策略类。作者报告，目标策略生成轨迹上的模仿误差上界为 Õ(k n_x/(H N_shared) + k n_u/N_target)，其中 n_x > k 为状态维度，n_u 为输入维度，N_shared 为表征学习期间每个源策略收集的数据量，N_target 为目标任务数据量。该界区分了共享表征学习与目标任务适配两部分代价，体现出在相关任务间汇集数据的潜在收益；不能脱离论文的理论假设，将其理解为任意任务增加数据都必然改善性能。作者报告仿真支持该界预测的趋势，但摘要未提供具体系统、对照、误差数值或仿真协议。 平台推测（待验证）：若 BCI 闭环控制可近似为线性动力系统，且多个控制任务或示范策略确实共享低维状态表征，该机制可能对应目标控制任务示范数据不足的瓶颈。可复用的是共享表征预训练与目标策略微调框架；需改造的是神经信号到状态的映射、控制输入定义及任务共享约束，不能直接视为 EEG 分类方法。低信噪比、跨被试差异、通道变化及小数据下不稳定的状态估计均可能破坏上述假设。一个可检验的小实验是在固定目标任务示范量的简化线性闭环仿真中，比较共享表征微调与从头模仿学习，并分别改变源策略数量及状态观测噪声，检验轨迹模仿误差是否符合理论趋势；这不构成真实 BCI 有效性验证。已有 EEG 相关工作尚未检索确认。 理论界所需的稳定性、任务相关性及数据采集假设，以及具体损失、训练实现、实验协议、消融及统计信息尚未验证，复现前需查阅全文。

    阅读价值：该研究给出了共享表征预训练与目标策略微调的轨迹模仿误差界，值得核对其任务共享假设及样本效率收益的适用条件，但对 EEG/BCI 的有效性尚未验证。

1月1日周六
  1. OpenReview · Representation learning74

    面向 CAD 的自监督表示学习

    基于摘要分析。该研究针对计算机辅助设计（CAD）原生参数化边界表示（B-Rep）中大规模数据缺少标签、已标注数据规模较小且任务专用标签获取昂贵的问题，提出利用未标注 CAD 几何进行自监督表示学习，再服务于监督学习任务。核心贡献是学习一种混合隐式/显式表面表示，研究对象是机械零件的 CAD 几何，而非神经信号或 BCI。 技术机制：摘要明确了 B-Rep 几何、混合隐式/显式表面表示以及预训练到监督任务的路径，但未说明两类表示如何结合、自监督目标、网络结构或下游适配方式。这些细节及其对几何数据结构的依赖尚未验证。 结果与证据边界：作者报告，该预训练显著改善少样本学习表现，并在多个现有 B-Rep 基准上达到最先进水平。摘要未提供基准名称、样本量、数据划分、对照方法、指标或具体数值，因此无法核对提升幅度及可比性；实验协议、消融及统计信息尚未验证。复现需取得全文并确认数据预处理、预训练目标、少样本设定及实现条件。 与 EEG/BCI 的关系：平台推测（待验证），其利用未标注数据缓解标签稀缺的思路与 EEG 小样本学习存在问题层面的对应，但摘要没有给出从 CAD 表面表示到 EEG 时序或通道结构的具体机制路径。现阶段不宜将该表示直接视为可复用的 EEG 模块，也不足以提出针对性迁移实验；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其利用未标注 B-Rep 几何学习混合隐式/显式表面表示、改善少样本监督学习的机制，但具体预训练目标与基准协议尚未验证，不能据此认定其适用于 EEG。