跳到正文

算法、任务与模态

JEPA 最新动态

JEPA 研究索引；按可核对的标签归档，不以热度评价质量。

63 条精选近 30 天 34 条共收录 65 条

更新

精选归档 · 第 4 页

1月1日周一第 61–63 条
  1. OpenReview · EEG72

    S-JEPA：通过动态空间注意力迈向无缝跨数据集迁移

    基于摘要分析。研究针对 EEG 信号处理中跨数据集迁移的困难，探索 Joint Embedding Predictive Architectures（JEPAs）用于自监督表征学习，提出 Signal-JEPA、面向 EEG 的空间块掩码策略，以及三种下游分类架构。作者将研究定位为探索性工作，提供了 JEPA 用于 EEG 编码的初步证据，而非已确立的无缝迁移方案。 技术上，空间块掩码是摘要明确列出的领域特定设计；标题强调动态空间注意力，但摘要未交代其具体计算方式。JEPA 的预测目标、损失形式、编码器结构，以及三种下游架构之间的差异尚未验证，不能据此补写实现细节。 研究使用一个包含 54 名被试的数据集，并在运动想象、ERP 和 SSVEP 三种 BCI 范式上评估下游性能。摘要未明确这 54 名被试在预训练与下游评估中的分配，也未提供数据集名称、被试内或跨被试划分、跨会话与跨数据集协议、基线及具体指标，因此不能量化迁移收益或直接比较不同范式的效果。 作者报告，空间滤波对准确的下游分类具有重要作用；预训练样本片段的长度会影响下游性能，而掩码大小在所考察设置下未显示影响。后者不应扩展为掩码大小普遍无关的结论，其适用范围仍需核对。复现时应重点确认通道与空间信息如何编码、空间块如何采样、预训练片段长度及掩码范围、预训练与下游数据的划分，以及空间滤波相关对照。实验协议、消融及统计信息尚未验证。

    阅读价值：值得阅读的具体原因是其探索了 EEG 的 JEPA 自监督表征与空间块掩码，并报告空间滤波及预训练片段长度对下游分类的影响，但跨数据集迁移效果仍需结合全文协议核对。

  2. OpenReview · Representation learning72

    基于联合嵌入预测架构的视频表征学习

    基于摘要分析。本文研究自监督视频表征学习，提出 Video JEPA with Variance-Covariance Regularization（VJ-VCR），以联合嵌入预测架构学习视频的隐空间表征，并通过方差与协方差正则化避免表征坍塌。研究的主要对象是视频及其中运动物体的动力学，而非 EEG 或 BCI。 核心机制是在表征空间进行预测，并引入方差与协方差约束来维持表征的有效性。作者还探索在 VJ-VCR 中引入潜变量的不同方式，以捕捉非确定性情境下未来的不确定性。摘要未给出具体预测目标、正则项公式、潜变量结构或训练与推理流程，这些细节尚未验证。 作者报告，VJ-VCR 的隐表征包含抽象、高层次的输入信息；在需要理解视频中运动物体底层动力学的下游任务上，其表征优于生成式基线所得表征。摘要未提供数据集、数据划分、基线名称、指标或数值，因此不能据此判断优势幅度与泛化范围；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 中存在可预测且与任务相关的时序结构，隐空间预测及防坍塌正则化可能用于自监督表征学习，潜变量机制则可能用于描述未来信号的不确定性。该假设依赖时序数据和足够的训练样本；可借鉴预测与正则化思路，但视频输入编码、时序窗口和通道表示需针对 EEG 改造。低信噪比、跨被试差异、通道配置变化及小数据可能使模型主要捕捉伪迹或被试特征，而非任务信息。一个可检验的小实验是，在固定编码器、训练数据量和跨被试划分下，对比加入与不加入方差及协方差正则化的时序预测表征，核对表征坍塌情况及冻结编码器后的下游解码表现。已有 EEG 相关工作尚未检索确认，该实验建议不代表已证实的 BCI 效果。

    阅读价值：值得阅读的具体原因是其将联合嵌入预测、方差与协方差正则化及未来不确定性的潜变量建模结合起来，并以涉及运动物体动力学理解的下游任务检验表征价值；其对 EEG 的适用性尚未验证。

9月20日周三
  1. OpenReview · Representation learning73

    基于联合嵌入预测架构的图级表征学习

    基于摘要分析。本文研究图级自监督表征学习，提出 Graph-JEPA，将 Joint-Embedding Predictive Architectures（JEPAs）用于图数据，并通过子图表征预测及面向隐式层级的训练目标，学习用于图分类与回归的图级表征。 机制上，JEPA 从上下文信号 x 预测目标信号 y 的潜在表征，而非重建原始信号。摘要将这一范式描述为能量模型学习，并强调其不依赖对比学习通常使用的数据增强与负样本。Graph-JEPA 使用掩码建模学习输入图中不同子图的嵌入；为赋予表征图级概念中常见的隐式层级，作者设计了预测编码后子图在二维平面单位双曲线上坐标的替代训练目标。具体掩码策略、编码器、预测器、目标函数形式及防止表征坍塌的机制尚未验证。作者将其称为首个面向图领域的 JEPA，该优先性声明尚未独立核对。 作者报告，Graph-JEPA 在图分类和回归任务中学习到了具有表达力且具竞争力的表征，但摘要未提供数据集、划分、指标、基线或分数，因此不能据此判断性能增益及适用范围。实验协议、消融及统计信息尚未验证。摘要称实现将在论文被接收后提供，不能据此确认当前代码可用或论文已接收。 平台推测（待验证）：若 EEG 样本被表示为以通道或脑区为节点、以连接关系为边的图，可考察子图潜在预测是否有助于学习图级表征；这是假设，并非本文已验证的 EEG/BCI 结果。可复用的是掩码子图预测思路，需改造图构建、节点信号编码与跨被试通道对齐。低信噪比、连接估计不稳定及小数据可能使模型学习到被试特异结构，双曲线目标所假设的层级也未必适用。一个可证伪的小实验是在固定 EEG 图构建与跨被试划分下，对比常规潜在预测目标与双曲线坐标预测目标，检验后者是否带来稳定增益。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注的是其将子图潜在表征预测与二维单位双曲线坐标预测结合，用于表达图级概念的隐式层级；具体性能及该目标的独立贡献仍需全文实验验证。