跳到正文

算法、任务与模态

Self-Supervised 最新动态

Self-Supervised 研究索引；按可核对的标签归档，不以热度评价质量。

68 条精选近 30 天 39 条共收录 80 条

更新

精选归档 · 第 4 页

1月16日周二第 61–68 条
  1. OpenReview · Representation learning76

    基于随机数据投影器的自监督表征学习

    基于摘要分析。该研究针对自监督表征学习（SSRL）对人工设计的数据增强及变换不变性假设的依赖，提出通过重构随机数据投影来学习表征的方法，不依赖数据增强或掩码。作者认为，这一路径可减少不同模态及应用特定增强约束带来的适配困难。 核心机制是以随机数据投影的重构作为学习任务，而非借助增强视图或掩码建模获得监督信号。摘要未说明投影的构造与分布、重构目标的具体定义、损失形式，以及编码器和重构模块的配置，因此尚不能判断哪些随机投影能够保留任务相关信息，也不能将其等同于某种已知的对比学习或降维方法。 作者报告，在覆盖多种模态与实际应用的表征学习任务中，该方法优于多个先进 SSRL 基线；但摘要未提供任务名称、数据集、数据划分、指标或具体数值。“适用于任意数据模态和网络架构”是作者提出的广泛适用性主张，其实际边界仍需结合全文核对。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若随机投影重构能保留 EEG 中的任务相关时空结构，它可能为难以设计可靠增强的小数据表征学习提供替代路径。可考虑复用重构学习思路，但需适配多通道时序输入、通道布局和尺度归一化。低信噪比可能使重构任务偏向噪声或伪迹，跨被试差异与通道变化也可能削弱表征稳定性。一个可检验的小实验是在固定 Cross-subject 划分、仅用训练被试进行自监督训练的前提下，以相同编码器和下游评估流程比较随机投影重构与增强式 SSRL，并检查投影设置变化对结果的影响。以上属于迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对随机数据投影重构如何在不依赖数据增强或掩码的条件下学习表征，以及其跨模态优势的评估边界；对 EEG 的适用性尚未验证。

1月1日周一
  1. OpenReview · EEG79

    EEGPT：通过自回归预训练释放 EEG 通用基础模型的潜力

    EEGPT 针对 EEG 数据格式多样、预训练范式与迁移方法受限的问题，结合电极级建模、自回归预训练和多任务迁移，旨在构建可适配不同采集设备、被试与任务的通用 EEG 基础模型。基于摘要分析，未取得论文全文。 核心机制：作者将每个电极作为基本建模单元，以整合不同电极配置的 EEG 数据；摘要称预训练数据涉及最多 138 个电极，共计 37.5M 个预训练样本，但样本单位、切片方式及数据组成尚未验证。预训练采用 next signal prediction，而非传统 masked autoencoder，目标是捕捉 EEG 的序列与时间依赖；具体预测粒度、序列组织、损失函数与推理流程尚未验证。作者还探索了参数规模最高为 1.1B 的模型的 scaling laws，但摘要未提供规模与性能之间的定量关系。 迁移机制：作者提出跨任务共享的可学习电极图网络，用于多任务迁移学习，并报告任务间具有兼容性与协同作用。摘要称模型支持最多 138 个电极及其任意组合输入；电极身份编码、不同设备的输入对齐方式、缺失电极处理和任务特定模块仍需核对正文。 结果与证据边界：作者报告在覆盖 5 个不同任务的 12 个 benchmarks 上进行评估，并在全部下游任务中优于现有专用模型，同时称广泛消融支持其有效性。摘要未列出任务与数据集名称、被试数、被试内或跨被试等划分协议、基线、指标及数值，因此不能据此量化优势，也不能确认跨设备、跨被试适配的具体评估前提。实验协议、消融及统计信息尚未验证。 复现重点是核对异构数据整合规则、自回归目标与电极图迁移各自的贡献，以及预训练数据和下游评估的关系。摘要中的“首次”及“最大”等表述属于作者主张，尚未独立核实。作者表示将发布代码和模型，当前材料不能确认其已公开。

    阅读价值：值得核对其电极级建模、自回归预训练与共享电极图的多任务迁移如何协同处理异构 EEG，并复现作者报告的跨任务优势；具体划分、对照与统计证据尚未验证。

12月17日周日
  1. OpenReview · Representation learning78

    视频自监督表征学习的基准评估

    基于摘要分析。该研究针对视频自监督表征学习中实验设置不统一、方法间难以比较的问题，提出统一比较基准，并系统研究预训练数据及模型选择对下游表现的影响。作者还依据研究观察提出一种使用有限训练数据的方法，但摘要未说明其具体机制。 研究覆盖数据集规模、复杂度、数据分布、数据噪声和特征分析五个方面。作者报告，实验涉及七种方法、七种网络架构、五个数据集及两种下游任务；摘要未列出名称、数据划分、评估指标及各方法与架构的组合方式。这些数量仅说明研究覆盖范围，不能据此判断各设置之间的可比性。 作者报告，所提出方法在使用有限训练数据时，优于使用其十倍预训练数据的已有最先进方法。该结论对应的任务、指标、数据来源、对照方法与训练预算尚未验证，不能解读为通用的数据效率优势。复现时需核对统一基准如何控制架构、预训练预算和下游评估方式，以及各项观察是否得到消融与统计分析支持；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：对数据规模、分布和噪声的分项评估思路，可用于考察 EEG 自监督预训练在小数据和跨被试条件下的稳定性；可复用的是评估框架，而非尚未披露的视频方法机制。若用于 EEG，需改造输入表示、预训练任务与噪声设置，并控制被试划分。低信噪比、通道差异和小样本可能改变视频领域观察到的规律。一个可检验的小实验是在固定模型与下游标注预算下，改变无标签 EEG 预训练数据规模和噪声强度，以固定跨被试划分检验表征收益是否稳定。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是其在统一评估条件下考察视频自监督学习对数据规模、分布及噪声等因素的依赖，可为预训练方法的公平比较提供参考；具体协议与结论适用范围尚未验证。

11月29日周三
  1. OpenReview · Representation learning74

    用于自监督表征学习的随机场数据增强

    基于摘要分析。该研究针对图像自监督表征学习中数据增强决定表征不变性、而增强方式仍有待探索的问题，提出基于高斯随机场的局部变换族，将传统仿射与颜色变换扩展为参数可随像素位置变化的增强。 核心机制是将变换参数视为空间坐标的连续函数，并用相互独立的高斯随机场建模。与平移、旋转、color jitter 等传统增强相比，该方法扩大了局部变换的可能范围；具体随机场构造、参数化方式、自监督目标及训练流程尚未验证。 作者报告，在 ImageNet 下游分类中，相对基线的 top-1 Accuracy 提升为原文所述的 1.7%；在分布外 iNaturalist 下游分类中，提升为原文所述的 3.6%。摘要未明确这些数值是相对百分比还是百分点，也未明确后一指标、基线方法、数据划分和评估协议，不能据此进行跨协议比较。作者同时报告，温和变换有助于表征学习，但较强变换可能破坏图像结构，且表征对超参数敏感。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是以平滑随机参数场生成局部变化，帮助 EEG 自监督学习覆盖有限的时空扰动。原方法依赖图像空间坐标；迁移时需将参数场改造为时间轴或电极空间上的函数，并确认增强仍保留任务相关信号，而非直接照搬图像仿射与颜色变换。低信噪比、小数据、跨被试差异及不规则通道布局可能放大增强误差，破坏 ERP 时序或频谱线索。一个可证伪的小实验是在固定 Cross-subject 划分、自监督目标和下游评估协议下，对比无增强、常规增强与不同强度的随机场增强，检验温和增强能否稳定获益及强增强是否退化。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其高斯随机场如何控制局部增强的平滑性与强度，以及增强多样性带来收益和破坏图像结构之间的边界；其对 EEG 自监督学习的迁移价值尚未验证。

10月28日周六
  1. OpenReview · Representation learning73

    自监督跨表表征学习的规模扩展实验

    基于摘要分析。该研究关注深度表格表征学习的规模扩展潜力，提出面向单表与跨表学习的 Transformer 架构，并通过自监督掩码单元格恢复进行预训练，考察模型规模与预训练设置对表征质量的影响。 核心机制是使用表特定 tokenizer 处理不同表格，并共享 Transformer 主干；训练以缺失值插补为任务，通过恢复被掩码的单元格学习表征。摘要未说明 tokenizer 如何编码列类型、表结构与单元格，也未给出掩码策略或具体损失形式。 作者报告，规模实验覆盖约 10^4 至 10^7 参数的模型，预训练数据由 76 个不同数据集组成，共包含 135 M 个训练 token。评估分别考察单表与跨表预训练设置，在整理的基准数据集上使用线性探测，并与常规基线比较。摘要未列出基准名称、划分方式、基线名称或性能指标，因此尚不能判断规模收益、跨表迁移效果及其统计可靠性；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，将 EEG 的结构化试次特征视为表格，用数据集特定 tokenizer 接入共享主干，以应对不同特征布局下的表征复用问题。可复用部分是共享主干与掩码恢复目标；需改造特征编码、通道与频带对应关系，并明确跨被试、跨会话的划分。原方法依赖表格单元格结构与较大规模预训练数据，不能直接等同于原始 EEG 时序建模；低信噪比、通道差异及小数据可能使恢复目标偏向噪声或数据集特征。可检验的小实验是在固定 Cross-subject 划分及相同训练预算下，对比单数据集与跨数据集预训练后的冻结表征线性探测，且预训练排除测试被试。相关 EEG 工作尚未检索确认。

    阅读价值：该研究以表特定 tokenizer 与共享 Transformer 主干探索跨表自监督预训练及规模效应，值得核对其线性探测对照和跨表泛化协议，但摘要未提供性能结果。

9月23日周六
  1. OpenReview · Representation learning76

    用于鲁棒表征学习的上下文视觉 Transformer

    基于摘要分析。研究针对不同群组间潜在因素变化导致的图像分布偏移，提出 Contextual Vision Transformers（ContextViT），通过群组上下文条件化图像表征，并在推理时适应新的测试分布。 核心机制借鉴 in-context learning：将与输入图像属于同一群组的图像信息映射为额外的 context token，再将其附加到输入图像 tokens 中，使表征随群组上下文调整。作者另引入 context inference network，从某一群组的一批样本即时预测 context token。该机制依赖可用的群组归属及同组样本；摘要未说明群组的具体定义、上下文聚合方式、训练损失或测试时是否更新模型参数，因此不能将其直接等同于参数更新式测试时自适应。 作者报告，在监督微调设置下，为预训练 ViTs 加入上下文条件化机制，在 iWildCam 和 FMoW 上持续改善分布外泛化；在自监督表征学习设置下，ContextViT 在 Camelyon17 病理图像及 JUMP-CP 显微图像基准上，比对应 ViT 获得更稳定的分布偏移下图像表征。摘要未给出指标数值、数据划分或效应大小，实验协议、消融及统计信息尚未验证。复现时需核对群组构造、上下文批次采样、预训练条件与基线配置。 平台推测（待验证）：迁移假设是，EEG 的被试或会话可作为群组，上下文条件化可能帮助处理跨被试或跨会话分布变化。可复用 context token 与上下文推断思路，但需将图像 token 编码改为 EEG 时序或时空编码，并明确测试群组可用样本及监督条件。低信噪比、小批次、通道配置差异，以及同组任务类别比例变化，都可能使上下文混入噪声或任务内容。一个可检验的小实验是在固定 Cross-subject 划分下，以同一 EEG 编码器比较无上下文与同组上下文条件化，并加入打乱群组的对照；严格固定测试上下文采样规则，检验增益是否来自有效群组信息。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其由同组样本推断 context token 的机制及测试时分组协议：这为利用群组上下文处理分布偏移提供了具体方法，但其对 EEG 跨被试或跨会话表征的价值尚未验证。

9月22日周五
  1. OpenReview · Representation learning70

    InfoAug：用于表征学习的互信息引导数据增强

    基于摘要分析。InfoAug 研究对比表征学习中的数据选择与增强如何减少对人工假设和工程经验的依赖，提出依据真实世界分布中的互信息选择训练样本，而不只在训练目标中采用信息最大化原则。 核心机制是：考察场景中的图像块在颜色变化、运动等自然扰动下的互信息，将表现出高互信息的图像块作为对比损失学习的正样本。其研究切入点在于正样本的选择依据，而非摘要已明确给出的新网络结构或新损失形式。摘要以 InfoNCE 为背景，但未说明互信息估计器、图像块对应方式、筛选阈值，以及样本选择与训练过程如何衔接，这些均需全文核对。 作者报告，在若干基准和多个先进表征学习框架上评估了该方法，并观察到有效性；摘要未提供基准名称、数据划分、具体对照、指标或数值，因此尚不能判断收益幅度及其适用范围。作者将改善开放环境泛化作为方法动机，其具体评估证据尚未验证。实验协议、消融及统计信息尚未验证。摘要称数据和代码将提供，不能据此认定已公开。 平台推测（待验证）：若能可靠估计 EEG 片段在合理扰动下的信息保持程度，互信息引导的正样本选择可能有助于缓解自监督学习中增强破坏任务相关信号的问题。可复用的是信息驱动的样本筛选思路；需改造的是图像块对应关系、扰动定义及互信息估计，使其适配 EEG 的时间、通道结构。低信噪比和小数据可能导致估计不稳定，高互信息也可能来自稳定伪迹或被试身份，而非任务信息。一个可检验的小实验是在固定数据划分、模型与训练预算下，对比互信息筛选和随机选择增强正样本，并在独立跨被试测试中检查下游性能与伪迹敏感性。以上为迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 InfoAug 如何估计自然扰动下的互信息并据此选择对比学习正样本，这为减少增强策略对人工假设的依赖提供了具体研究路径，但其 EEG 迁移价值尚未验证。

  2. OpenReview · Representation learning72

    利用 Guided Stop-gradient 的隐式对比表征学习

    基于摘要分析。本文研究自监督 Siamese networks 在拉近正样本对表征时出现的表示坍塌问题，提出 guided stop-gradient，利用源编码器与目标编码器的非对称架构隐式引入对比学习思想，并将其应用于 SimSiam 和 BYOL。 机制与贡献：显式对比学习通过推远负样本对避免坍塌，但摘要指出，这类方法对负样本数量减少不够稳健。本文从仅使用正样本对的方法出发，通过 guided stop-gradient 调整非对称学习过程，而不是依赖显式负样本。摘要未说明梯度引导的具体规则、损失形式或编码器更新方式，因此尚不能判断其与原有 stop-gradient 机制的实质差异。 结果与证据边界：作者报告，在 SimSiam 和 BYOL 上加入该方法可稳定训练并提升性能；作者还报告，该方法在小批量条件下有效，且移除 predictor 后仍不发生坍塌。摘要未提供数据集、批量大小、评价指标、数值结果及对照配置，实验协议、消融及统计信息尚未验证。作者称代码位于补充材料，其可获取性与复现条件尚未核对。 平台推测（待验证）：假设该机制能够在较少样本下维持表征多样性，它可能适用于受批量规模限制的 EEG 自监督预训练。原方法依赖由变换构造的正样本对及源—目标非对称架构；可尝试复用梯度控制机制，但需改造 EEG 编码器与正样本构造，避免增强破坏任务相关信息。低信噪比、跨被试差异和通道变化可能使正样本关系失真，小数据下不坍塌也不等于学到有效表征。可检验的小实验是在固定 EEG 数据划分、增强方式及训练预算下，对比原始 SimSiam 与加入该机制的版本，改变批量大小，同时测量表征方差与冻结编码器后的下游性能。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 guided stop-gradient 如何在不显式使用负样本的非对称架构中缓解表示坍塌，尤其是作者报告的小批量训练及移除 predictor 条件下的稳定性，但其具体实现与实验协议尚未验证。