跳到正文
只看表征与基础模型#OpenReview
10月4日周日
  1. OpenReview · Representation learning78

    强化学习中的终止表示

    基于摘要分析。该研究针对强化学习（RL）中时空抽象表示的计算与存储开销，提出 terminal representation（TR，终止表示）：编码奖励加权的轨迹，同时允许以较低维对象学习，并直接用于下游任务而无需特征向量计算。 机制与对照：successor representation（SR）以状态诱导的未来轨迹编码状态，将信息流与奖励解耦；default representation（DR）进一步用奖励加权轨迹，纳入信用分配结构。作者提出的 TR 与 DR 同样利用奖励加权轨迹，但采用不同的表示结构。摘要指出，既有特征分解路线带有对称转移动力学假设，TR 可绕过这一限制；该说法的适用范围与数学条件仍需核对正文。 理论与结果：作者报告推导了 TR 的理论基础，给出两种学习算法的收敛结果，并分析其零样本组合性及不同奖励表述之间的等价关系。作者还报告 TR 嵌入于 DR 的首要特征向量中，因此可在不进行特征分解的情况下获取相同的底层知识。对于 option discovery、reward shaping、transfer learning 和 exploration 等下游应用，作者报告了支持 TR 可行性的实验证据，并称其学习、存储和使用开销更低。摘要未给出具体环境、数据划分、基线配置、指标或开销数值，实验协议、消融及统计信息尚未验证。 BCI 关联：平台推测（待验证），若 BCI 自适应控制被建模为具有奖励与终止条件的序列决策问题，TR 可能提供降低状态表示开销的路径；这一假设依赖可估计的转移动力学和奖励结构，并非已证实的 EEG 解码收益。低信噪比、跨被试差异及有限交互数据可能影响表示学习与迁移。已有 EEG 相关工作尚未检索确认，当前应优先核对理论假设及原领域实验，再判断迁移价值。

    阅读价值：值得核对 TR 如何以较低维表示替代 SR/DR 的特征向量计算，以及其收敛条件与计算开销优势是否在相同下游任务和评估协议下成立。

9月19日周六
  1. OpenReview · EEG76

    TopoJEPA：面向 EEG 基础模型的拓扑锚定联合嵌入预测

    基于摘要分析。TopoJEPA 针对自监督 EEG 基础模型中重建目标可能过度强调电极级信号细节的问题，提出先构建符合 EEG 时空组织的目标表征空间，再在该空间内学习预测动态，以获得更具迁移性的表征。 核心机制遵循 Grounding Before Prediction。Topological Target Grounding（TTG）将异构电极配置映射到统一的层级拓扑，并通过重建学习半球级与区域级表征。Reconstruction-Specific Branch 将重建相关的残差信息隔离到辅助路径，旨在保持重建保真度的同时，减少这些细节对目标空间的主导作用。在 TTG 建立的表征基础上，Topology-Grounded Autoregressive Prediction（TGAP）在联合嵌入空间中建模时空演化。其区别于直接重建原始信号或预测无约束潜在表征的关键，是先约束预测目标的组织结构，而不是完全取消重建学习。 作者报告，在覆盖六类代表性 EEG 解码任务的十个数据集上，TopoJEPA 相较现有自监督方法及 EEG 基础模型基线取得了有竞争力的表现，并在多个任务的线性探测中表现突出。摘要未提供数据集名称、被试规模、具体指标、分数及被试内、跨被试、跨会话或跨数据集划分，因此不能据此量化收益或判断不同协议下的泛化能力。 复现时应重点核对异构电极到层级拓扑的映射规则、TTG 与 TGAP 的训练衔接、辅助分支如何分离重建残差信息，以及线性探测的冻结范围和数据划分。拓扑约束与辅助分支的独立贡献、实验协议、消融及统计信息尚未验证。摘要提供了匿名代码地址，但代码完整性、训练配置及运行条件尚未核验。

    阅读价值：值得核对其拓扑约束目标空间与重建专用分支是否确实提升 EEG 表征迁移性，尤其是作者报告的多任务线性探测表现，但具体评估协议与消融证据尚未验证。

  2. OpenReview · EEG73

    超越 patch 级 EEG 重建：用于 EEG 解码的对比预训练与多尺度卷积 Transformer

    基于摘要分析。研究针对低信噪比及多时间尺度采样点依赖下，原始 EEG 信号分词与掩码重建预训练是否最优的问题，提出结合对比预训练、多尺度采样点级卷积和 Transformer 编码器块的 CoCoT-EEG，并通过消融实验与机制分析考察架构及预训练目标的影响。 核心思路是将对比学习作为 EEG 自监督预训练的替代路径，同时通过多尺度卷积提取采样点级特征。与围绕 patch 进行重建的方案相比，该研究关注跨 patch 边界的特征提取及较长卷积核，以处理不同时间尺度的信号依赖。摘要未提供对比样本构造、数据增强、损失形式、卷积尺度、模型规模及训练流程，这些实现细节尚未验证。 作者报告，CoCoT 在具有异质实验配置的广泛基准解码任务上达到 state-of-the-art 表现；消融与机制分析支持对比预训练、跨 patch 的采样点级特征提取及较长卷积核带来收益。不过，摘要未列出数据集、任务名称、被试数量、被试内或跨被试等划分协议、对照基线及指标数值，因此尚不能判断提升幅度、跨场景稳定性或各设计因素的独立贡献，也不能直接比较不同实验协议下的结果。 复现与评估应优先核对：预训练和下游数据的划分关系，对比学习正负样本与增强策略的定义，以及比较预训练目标时是否控制架构、数据规模和训练预算。对于低信噪比 EEG，还需核对所学表征是否保留任务相关信息，以及跨被试、跨会话和通道配置变化下的表现。具体实验协议、消融及统计信息尚未验证；摘要中的积极结果不应扩大为对所有 EEG 解码场景均有效的结论。

    阅读价值：值得阅读其对预训练目标与架构的分离分析：作者报告对比预训练、跨 patch 的采样点级特征提取及较长卷积核有益于 EEG 解码，但具体收益与适用协议仍需全文核对。

9月18日周五
  1. OpenReview · Representation learning79

    生成驱动的表征学习：无需预设任务的自引导扩散

    该研究考察纯生成训练能否学习可用于语义任务的表征，提出从零端到端联合训练图像编码器与条件扩散模型的框架，不使用标签、对比损失或掩码，基础设置仅采用水平翻转增强。基于摘要分析，未取得论文全文。 编码器输出的潜在向量同时用于控制条件生成和下游语义任务。作者另在编码器输出空间训练扩散模型，以采样潜在表征，并与条件扩散模型串联实现无条件图像生成。摘要强调，条件模型的图像输入与潜在输入使用独立采样的噪声时间步，这是其学习动态的关键；具体噪声注入方式、损失形式与训练流程尚未验证。 作者报告，在 CIFAR-10、CIFAR-100 和 ImageNet-100 上，该系统的无条件生成表现明显优于架构匹配、计算量相同的 DDPM 基线，但摘要未提供指标与数值。作者报告，在仅使用水平翻转增强、编码器纯粹由去噪扩散损失训练的设置下，kNN 分类 Accuracy 可与 SODA 等专门的自监督方法相当。进一步采用与 SimCLR 相同的数据增强配方后，作者报告，生成目标在 CIFAR-10 和 CIFAR-100 涉及的四种探测协议中，有三种优于 SimCLR 的对比目标。数据划分、探测协议细节、消融及统计信息尚未验证，不能据此推断其他任务上的优势。 平台推测（待验证）：迁移至 EEG 的假设是，条件生成的去噪监督可能促使编码器提取可复用结构，从而缓解标签稀缺问题；但图像语义表征的结果不等于 BCI 有效。可复用的是编码器与条件扩散联合训练、独立噪声时间步机制；需改造信号编码、噪声建模与增强策略，水平翻转不能直接视为 EEG 的有效增强。低信噪比、跨被试差异、通道不一致和小样本可能使表征偏向伪迹或个体特征。一个可证伪的小实验是在固定 EEG 数据划分与计算预算下，对比独立和共享噪声时间步，并以冻结编码器的跨被试分类检验机制收益；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对与复现的是：作者以生成目标学习语义表征，并设置同架构、同计算量的 DDPM 对照及同数据增强的 SimCLR 对照，可用于检验表征收益是否来自训练目标与噪声机制，而非额外预设任务。

  2. OpenReview · Representation learning74

    SpecMRL：在参数谱空间中重新设计 Matryoshka Representation Learning

    基于摘要分析。该研究针对 Matryoshka Representation Learning（MRL）联合优化嵌套前缀、却缺乏显式约束确保前部特征形成有效紧凑编码的问题，提出 SpecMRL：引入由参数导出、按特征重要性组织的谱基，在学习到的谱空间中读取前缀，以改善可变维度表示的压缩效果。 机制上，SpecMRL 的主要变化是重组表示空间，而非替换 MRL 的整体训练框架。摘要称其余部分沿用标准 MRL，但未说明谱基由哪些参数构造、重要性如何度量，以及谱基的学习与更新方式；具体损失、训练开销和推理成本尚未验证。因此，其可核对的创新点是前缀读取坐标系与信息排序机制，而不是摘要未提供的网络结构。 作者报告，在 MTEB 上，SpecMRL 在所有已评估的降维设置中均优于 MRL，且压缩越强，收益越大；作者还报告，仅使用一半嵌入维度即可超过全维 MRL。摘要未提供具体任务、指标、分数、原始维度及数据划分，不能据此判断收益幅度或各任务的一致性。实验协议、消融及统计信息尚未验证，复现需进一步核对模型、训练数据、维度设置和基线条件。 平台推测（待验证）：若 EEG 表示需要按存储或推理预算截取维度，按重要性组织谱方向可能缓解直接截取前缀时的信息损失。该假设依赖可学习的向量表示、参数谱结构及足以稳定估计重要性的训练数据；可复用谱空间重组与前缀读取思路，但需适配 EEG 编码器、任务监督和跨被试分布变化。低信噪比、小数据及通道差异可能使重要方向不稳定，或优先保留被试特异信息。一个可检验的小实验是在固定 EEG 编码器、数据划分和训练预算下，对比标准 MRL 与谱空间前缀读取在多个压缩维度下的表现，并分别评估被试内与跨被试协议。已有 EEG 相关工作尚未检索确认，以上并非已验证的 BCI 效果。

    阅读价值：值得核对参数导出的谱基如何改善嵌套前缀的信息排序，以及作者报告的半维嵌入优于全维 MRL 是否在相同训练与评估条件下成立。

  3. OpenReview · EEG75

    vNeuro：EEG 视觉模型的基础

    基于摘要分析。该研究探讨自然视觉数据上学到的表征能否复用于 EEG，以减少从零预训练大型 EEG 专用模型的需求。vNeuro 通过轻量可训练接口，将多通道 EEG 时频表征转换为保留电极几何关系的视觉 token，适配冻结的视频预训练 V-JEPA 2.1 编码器。 机制上，接口在无标签 EEG 上通过潜在表征预测与分布正则化进行自监督训练，视觉主干始终固定；下游训练只优化适配器和分类头。其核心区别在于复用预训练视觉主干，而非从头学习 EEG 主干。时频变换、token 映射、预测目标和正则化的具体形式，以及接口规模与训练数据量，摘要未提供，尚未验证。 作者报告：采用 ViT-B 主干时，vNeuro 在 TUAB 异常检测上的 Balanced Accuracy 为 81.40%，在 TUEV 事件分类上为 68.35%；采用 ViT-G 时，TUEV 的 Balanced Accuracy 为 68.73%。摘要未说明被试内、跨被试或其他划分协议，因此这些结果不能直接与不同协议下的分数比较。作者称其表现可与使用数万小时 EEG 预训练的基础模型竞争，但具体对照模型、预处理与训练预算的可比性尚需核对。 作者报告消融和表征分析支持 EEG 到视觉 token 的映射及带正则化的自监督适配均对性能有贡献；具体效应幅度、实验协议与统计信息尚未验证。复现重点包括电极布局与通道处理、时频输入构造、V-JEPA 2.1 权重配置、适配训练语料及下游数据划分。平台推测（待验证）：固定视觉主干可能减少需要更新的参数，但不能据此认定整体训练成本更低，或已具备跨被试、跨设备泛化能力。

    阅读价值：值得核对其电极几何保持的视觉 token 映射与冻结 V-JEPA 2.1 的自监督适配机制；作者报告其在 TUAB、TUEV 上具有竞争力，但评估划分与计算成本尚需全文验证。

9月17日周四
  1. OpenReview · EEG75

    从生理构成到 EEG 表征中的情感几何

    基于摘要分析。研究针对高维 EEG 表征中情绪相关活动的脑区与频谱构成难以显式刻画的问题，提出生理构成框架：将 EEG 基础模型表征转换为共享的脑区–频率 motif 激活，用可解释的生理空间比较不同模型所组织的情感结构。 核心机制是预先为各 motif 定义头皮区域与频带，并利用相应频带内的频谱活动引导每个 EEG 样本的 motif 激活估计。motif 之间的竞争用于减少证据的重复分配，所有激活共同构成样本特定的生理构成。摘要未给出激活估计的具体公式、竞争机制的实现、损失函数，以及基础模型是否冻结或参与训练，这些细节尚未验证。 作者报告，在全部九个数据集–模型组合中，具有生理结构的 motif 均优于随机映射，支持所学习构成中的生理组织具有预测相关性；摘要未说明对应任务、评价指标、提升幅度及数据划分。作者还报告，两个独立预训练的基础模型恢复出高度相似的情感几何，其中情绪距离的相似度为 0.976，质心角度的相似度为 0.935。相似度的计算定义、情绪类别、统计不确定性及具体评估协议尚未验证，不能将这些数值解释为解码 Accuracy。 该工作的阅读价值在于提供解码性能之外的模型比较维度：考察不同基础模型是否以相近的生理构成组织情感结构。复现时需核对数据集与基础模型身份、motif 词表及区域–频带定义、随机映射对照的构造、被试与会话划分，以及几何相似度的计算方式。跨模型几何相似不等于已验证的跨被试或跨数据集泛化；实验协议、消融及统计信息尚未验证。

    阅读价值：值得阅读的具体原因是作者将 EEG 基础模型表征映射到共享的脑区–频率生理构成空间，并以随机映射对照及跨模型情感几何比较检验其解释价值；具体实验协议与稳定性尚未验证。

9月16日周三
  1. OpenReview · Representation learning78

    结构化表示学习的分区恢复

    基于摘要分析。该研究关注表示在维持预测性能的同时，是否会丢失任务相关的潜在可区分结构，并将这一问题形式化为 partition recovery（分区恢复），即恢复由任务相关可区分性诱导的潜在等价关系。作者提出统计理论与可微表示学习框架 DPT，将分区保持作为区别于预测准确率的学习目标。 理论方面，作者给出一致性保证，以及受表示复杂度和 partition margin（分区间隔）控制的有限样本恢复界；对不均衡情形，作者指出恢复能力受采样最少的潜在模式控制。在此基础上提出 task-structure sufficiency（任务结构充分性），要求表示保留底层分区，而不只是满足预测需求。DPT 可使用领域知识导出的分区，或从数据中通过统计自助法构建的分区训练；具体分区构造、可微目标、损失形式及优化流程尚未验证。 作者报告，在合成与真实世界基准上，常规监督目标可能保留粗粒度预测性能，却破坏真实潜在区别，而 DPT 能保留底层结构并揭示标准 Accuracy 指标无法反映的表示失效。摘要未提供基准名称、数据划分、对照配置及量化结果，实验协议、消融及统计信息尚未验证。阅读全文时需重点核对潜在分区的定义与可观测依据，以及分区恢复如何独立于预测性能得到评估。 平台推测（待验证）：迁移到 EEG 的假设是，某些任务相关潜在状态可能被粗粒度标签掩盖，因此分区保持或可补充常规分类评估。可复用的是分区恢复目标与结构评估思路，需改造的是 EEG 编码器和分区构造方式；前提是存在可信的领域分区或可稳定估计的数据结构。低信噪比、通道差异及小样本可能使分区误捕获被试或会话特征，稀有模式也可能难以恢复。一个可证伪的小实验是：在固定 Cross-session 划分和相同编码器下，对比常规监督训练与 DPT，分别评估任务 Accuracy 和预先定义的任务相关分区恢复表现。该假设不代表已证实的 EEG 效果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其分区恢复理论与 DPT 的实现，因为作者将“预测准确但潜在模式被压缩合并”的表示失效转化为独立评估目标；其对 EEG 表示学习的适用性尚未验证。

9月14日周一
  1. OpenReview · Representation learning73

    ΔRepresentation：通过反事实推理为医学 VLMs 学习几何监督的表型表征

    基于摘要分析。该研究针对医学 VLMs 中病理表型与正常解剖信息混合编码的问题，提出 ΔRepresentation：先学习解剖表征，再以病灶相对于对应正常解剖的表征增量刻画表型，而不只依赖语义引导的表征对齐。 框架包含两个模块。BaseAnatomy 利用解剖结构内部及结构之间的空间关系提供细粒度几何监督；ΔPhenotype 计算病灶表征与对应正常解剖表征之间的增量，并监督同一表型的增量在表征空间中聚集。其关键设计是把学习对象从病灶整体表征转向相对于正常解剖的变化量。摘要未说明正常参照如何获取、配对或生成，也未给出具体损失形式与训练流程；“反事实”在此是作者的方法定位，不能据此认定其识别了因果效应。 作者报告，在 ReXGroundingCT 和 LIDC-IDRI 上，该方法改善了病理表型表征的组织性，并提高了医学 VLMs 的病灶定位与表型刻画准确性。摘要未提供具体分数、数据划分及对照基线，实验协议、消融及统计信息尚未验证。复现时应重点核对正常参照构造、几何监督来源，以及两个模块分别带来的收益。摘要提供了代码地址，但代码内容与可运行性尚未验证。 平台推测（待验证）：假设 EEG 中存在可靠的条件匹配参照，增量表征思路可能用于区分稳定背景活动与任务相关变化，对应被试或会话差异掩盖任务信号的瓶颈。可借鉴差分表征与同类增量聚集目标，但解剖空间监督需改造为适用于 EEG 的通道或时空关系约束，且依赖参照匹配、任务标签与可用数据规模。低信噪比可能使差分放大噪声，跨被试参照失配、通道变化和小数据也可能破坏增量的一致性。一个可证伪的小实验是在固定 Cross-subject 划分下，比较原始表征与使用被试内匹配基线构造的增量表征，并加入打乱参照对照，检验收益是否确实依赖有效参照。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的具体原因是将正常解剖表征与病灶相关增量分开建模，为核对几何监督与反事实差分能否改善表型表征提供了明确机制，但其对 EEG/BCI 的价值尚未验证。

9月10日周四
  1. OpenReview · Representation learning74

    VINO：利用 Volume Transformers 重新审视 3D 表征学习

    基于摘要分析。该研究针对 3D 场景自监督表征学习尚未取得与 2D 相当成效的问题，提出 VINO：以 Volume Transformer 替换常用的分层 PTv3 骨干，并重新设计跨视图匹配、掩码内容预测及 2D-to-3D 知识蒸馏，以无标签方式学习 3D 场景语义表征。 机制上，Volume Transformer 被描述为面向 3D 场景的 ViT-like 架构。跨视图匹配采用教师—学生角色分工：教师提供干净、一致的目标，学生学习对更强扰动的不变性。掩码预测则限制学生只能利用可见上下文推断缺失表征，不允许其访问被掩码的几何信息。2D-to-3D 蒸馏不再直接回归依赖视角的图像特征，而改用视角更一致的监督；摘要未说明该监督的具体构造，也未给出损失形式、掩码策略或训练规模。 作者报告，VINO 在室内与室外基准上的稠密线性探测表现显著改善，并能较好迁移到域外设置。摘要未提供数据集名称、划分、对照基线及具体指标，故无法量化提升或比较不同评估协议；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其教师提供稳定目标、学生承受更强扰动，以及仅从可见上下文预测掩码表征的思路，可能用于 EEG 自监督学习中检验噪声鲁棒性与上下文利用能力。但原方法依赖 3D 几何及跨视图对应，不能直接视为 EEG 方法：可考虑复用目标分工与掩码访问约束，骨干、位置编码及扰动需适配 EEG 时间—通道结构，2D-to-3D 蒸馏也缺少直接对应。低信噪比、跨被试差异、通道缺失及小数据可能使教师目标不稳定，过强扰动还可能破坏任务相关信号。一个可证伪的小实验是在固定 EEG 数据划分和训练预算下，仅比较常规教师—学生训练与上述目标分工，并在相同 Cross-subject 协议下评估；已有相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其教师—学生目标分工、掩码几何隔离与跨模态监督设计能否分别改善表征学习；摘要未提供定量结果，各项改动的独立贡献尚未验证。

3月3日周二
  1. OpenReview · Representation learning73

    面向 flow-matching 模型的结构化图像表征学习

    基于摘要分析。该研究针对标准 flow-matching 图像生成模型难以同时学得可操作、可组合及可供其他任务使用的潜在表征这一问题，提出共同训练图像编码器与以潜变量为条件的 flow-matching“解码器”，将无监督表征学习与图像生成结合。 核心机制是使用强化学习目标训练编码器，并将 flow-matching 回归损失作为随机奖励信号。作者进一步修改强化学习目标，使期望奖励以噪声水平为条件，从而让编码器利用 flow-matching 输出与带噪目标比较所产生的中间信号。摘要未提供奖励与损失的具体转换、梯度估计方式、噪声条件化的实现，以及结构化潜变量的定义与约束，这些细节尚未验证。 作者报告，该方法能够学习非结构化与结构化潜变量，同时保留 flow-matching 的高质量生成能力；但摘要未给出数据集、评估协议、对照模型或定量指标，因此尚不能确认表征的可组合性、下游效用与生成质量之间的权衡。实验协议、消融及统计信息尚未验证，复现还需核对编码器与生成模型的训练安排及实现条件。 平台推测（待验证）：若潜变量能分离任务相关因素与噪声因素，该机制可能用于 EEG 时频图的无监督表征学习。原方法依赖图像输入、带噪目标和条件生成训练；迁移时需改造编码器、生成目标及潜变量结构，以适配通道关系和时间信息。低信噪比、跨被试差异及小数据可能使潜变量优先编码伪迹或被试身份，而非任务信息。可检验的小实验是在固定 Cross-subject 划分下，仅用训练被试数据学习表征，再以冻结编码器进行任务线性探测，并与非结构化潜变量版本比较，同时检查被试身份可预测性。该实验属于迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其以 flow-matching 回归损失作为随机奖励、并按噪声水平条件化期望奖励的编码器训练机制，以及结构化潜变量的可复用性是否获得下游实验支持。

3月2日周一
  1. OpenReview · EEG69

    平衡潜在语义与信号保真度的 EEG 表征学习

    基于摘要分析。该研究针对 EEG 低信噪比与被试差异带来的表征学习困难，提出基础模型 STELAR，通过双空间目标兼顾潜在语义稳定性和原始信号保真度，并使用 MTPE-GB 自适应平衡两类任务。 核心机制：作者认为，依赖原始信号重建的现有基础模型容易过拟合局部噪声。STELAR 将 patch 级掩码潜在预测与掩码信号重建结合，前者用于学习稳定语义，后者用于保留原始信号信息。摘要未说明潜在预测目标如何生成、掩码策略、编码器结构或具体损失形式，这些细节尚未验证。 任务平衡：MTPE-GB 被描述为验证驱动的梯度平衡器，可自适应调整任务权重。作者声称该机制不需要手工调参，也不增加计算开销；其验证信号来源、权重更新规则及开销核算范围需由全文确认。 结果与边界：作者报告，STELAR 在多个 EEG 基准的线性探测评估中达到最先进表现，并据此主张模型具有稳健泛化能力。摘要未提供数据集名称、被试规模、划分方式、对照基线或具体指标，因此尚不能确定这些结果对应被试内、跨被试、跨会话还是跨数据集泛化，也不能据此推断端到端微调或临床诊断效果。实验协议、消融及统计信息尚未验证。 复现重点是核对双目标相对单独重建或单独潜在预测的贡献，以及 MTPE-GB 相对固定权重的收益与实际计算成本。作者表示将发布全部源代码，但当前材料不足以确认代码已经公开。

1月26日周一
  1. OpenReview · Representation learning69

    面向医学超声的解剖感知表征学习

    基于摘要分析。研究针对医学超声图像纹理与结构特征独特、诊断依赖专业经验以及大规模数据稀缺的问题，提出自监督表征学习框架 Anatomy-aware Representation Learning（ARL），旨在学习适用于超声诊断的解剖感知特征。 核心方法是引入 anatomy-adaptive Vision Transformer（A-ViT），利用作者提出的大规模医学超声数据集进行参数学习，以获得解剖感知表征。摘要未说明解剖信息如何进入模型、是否需要解剖标注、自监督目标及具体训练与推理流程，因此尚不能判断其相对通用 Vision Transformer 的机制差异，也不能将其等同于某种特定的掩码建模或对比学习方法。 作者报告，在乳腺癌与甲状腺癌相关诊断、心脏切面分类、胆囊肿瘤及 COVID-19 识别等超声任务上，ARL 显著优于现有自监督学习基线。摘要未提供数据集名称、样本规模、划分方式、基线配置、指标或具体数值；实验协议、消融及统计信息尚未验证。复现时需核对预训练数据与下游评估数据的关系、解剖适应组件的实现，以及数据和代码的可用性。 平台推测（待验证）：其可迁移假设是，将领域结构先验纳入自监督表征可能有助于缓解 EEG 通道结构差异与小样本学习问题，但超声空间纹理与 EEG 时序信号的数据结构不同。可考虑复用领域适应的编码器设计思路，需重新构造时序输入与电极空间信息；低信噪比、跨被试差异和缺失通道可能使结构先验失效。待全文明确机制后，可在固定 Cross-subject 划分与训练预算下，对照通用编码器和加入电极结构先验的版本，并测试通道缺失时的表现，以检验这一假设。相关 EEG 工作尚未检索确认。

  2. OpenReview · Representation learning68

    学习 3D Gaussian Splatting 的统一表示

    基于摘要分析。该研究针对 3D Gaussian Splatting（3DGS）原始参数难以直接作为神经网络特征的问题，提出基于 continuous submanifold fields（连续子流形场）的嵌入表示，旨在保留 Gaussian primitives 的内在颜色与几何信息，并实现唯一映射和通道同质性。 核心问题在于：3DGS 虽可支持高效、显式的三维重建，但其参数化具有非唯一性与异质性。作者认为，直接将原始 Gaussian 参数输入学习框架未能解决这些性质，容易得到高度依赖具体数据的模型。本文的思路是重构输入表示，而非仅依赖下游网络自行适应原始参数；摘要未说明连续子流形场的具体构造、唯一映射的定义及保障方式，也未披露损失函数、训练或推理流程。 作者主张该嵌入有利于 3DGS 学习，但摘要未提供任务、数据集、对照基线或定量指标，因此不能据此判断收益大小及泛化范围。实验协议、消融及统计信息尚未验证；复现还需核对场表示的计算方式、离散化与采样要求，以及相对原始参数输入的计算开销。 平台推测（待验证）：处理输入表示非唯一性与通道异质性的思路可能启发 EEG 表征设计，但当前机制依赖三维 Gaussian primitives 的几何与颜色结构，不能直接等同于 EEG 电极通道及时间序列结构。材料不足以提出可靠的 BCI 迁移方案，已有 EEG 相关工作尚未检索确认。

12月31日周三
  1. OpenReview · EEG69

    用于长序列 EEG 建模的高效自监督框架

    该研究针对 EEG 低信噪比、高被试间差异及 Transformer 长序列建模的计算开销，提出自监督框架 EEGM2，通过结合 Mamba-2 的 U 形编码器—解码器与联合 L1-spectral 损失，兼顾长程依赖建模和时频特征保留。以下基于摘要分析，未取得论文全文。 核心机制方面，摘要称 Mamba-2 的选择性信息传播机制有助于捕获长程依赖，并使框架达到线性复杂度。联合 L1-spectral 损失用于保留时间动态与频谱特征，但其具体形式、权重配置、频谱计算方式及自监督任务构造尚未验证，不能据此认定采用了掩码建模或特定重建协议。U 形结构与 Mamba-2 的具体组合方式也需查阅全文。 结果方面，作者报告 EEGM2 在短序列与长序列建模中达到领先性能，并具备较强的跨被试泛化与跨域迁移能力；同时报告内存占用降低、推理加快。摘要未提供数据集、被试数、序列长度、划分方式、基线、指标或数值，因此这些结论目前只能作为作者报告，不能量化优势，也不能将跨域迁移直接等同于跨数据集评估。实验协议、消融及统计信息尚未验证。 复现时应重点核对：线性复杂度对应的计算范围与实际序列长度；相同硬件、批量大小和精度下的内存与推理开销；跨被试评估中的预训练与下游数据划分；以及 Mamba-2 和 L1-spectral 损失各自的贡献。摘要提供了模型与代码地址，但其可访问性、配置完整性及结果可复现性尚未验证。面向资源受限 BCI 设备的适用性是作者提出的应用判断，实际设备上的延迟、内存和功耗表现仍需核对。

9月23日周二
  1. OpenReview · Representation learning75

    关系表征学习

    基于摘要分析。该研究提出 Relational Representation Learning（RRL），将表征学习统一描述为关系图估计问题：不再孤立地处理样本，而是通过样本间的成对关系定义学习目标，并由编码器产生的嵌入估计关系图、最小化其与指定目标图的差异。 核心贡献是把自监督、半监督与监督学习目标纳入同一数学框架。作者据此分析自监督学习中的收敛缓慢、性能差异，以及 projector 与 backbone 的准确率差距，并讨论辅助投影头的作用。摘要未给出关系图的具体构造、差异度量、损失形式或训练流程，这些实现细节尚未验证。 作者报告，在其所用实验设置中，提高图内关系的丰富度能够加快收敛并改善下游表现。摘要未提供数据集、划分、对照基线、指标数值或关系丰富度的操作定义，因此目前无法判断改善幅度与适用边界；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 样本之间能够定义可靠的任务相关关系，RRL 或可用于研究跨被试表征中任务信息与个体差异的分离。其迁移依赖可用的成对关系或监督信息，以及足够稳定的图估计；可复用的是目标图与嵌入关系匹配的思路，需改造 EEG 编码器、关系构造及通道对齐方式。低信噪比可能使图主要反映伪迹，被试与通道差异可能主导样本关系，小数据则可能导致关系估计不稳定。一个可证伪的小实验是，在固定 EEG 数据划分、编码器与训练预算下，比较原有预训练目标和 RRL 目标，并逐步改变关系丰富度，观察收敛速度与同一跨被试协议下的下游指标是否同步改善。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其将多类预训练目标统一为关系图估计的形式化框架，并核对关系丰富度如何影响收敛与下游表现；这些结论在 EEG 场景中的适用性尚未验证。

9月19日周五
  1. OpenReview · Representation learning72

    采用空间性保持表征的 EEG 信号自监督学习

    基于摘要分析。该研究针对 EEG 自监督学习中输入电极与表征之间的一一对应关系未被充分保留、可能导致空间信息丢失的问题，提出 Spatiality Preserving Representation（SPR）Learning。其核心贡献是通过 coherence 伪标签预测任务学习空间关系，将 EEG 空间组织信息纳入自监督表征学习。 机制方面，作者将 SPR 与依赖重建或采用独立编码器进行时间预测的方法作对照，主张 coherence 伪标签能够引导模型理解脑信号的拓扑组织。摘要未说明 coherence 的计算方式、伪标签构造、预测对象、损失函数，以及电极—表征对应关系的具体保证机制；这些是判断方法能否真正保留空间信息、而非仅学习相关性模式的关键核对点。 结果方面，作者报告在不同数据集上的微调提升分别为 4.7%、9.7%、1.6% 和 15.6%，并称优于现有先进方法。但摘要未提供数据集名称、下游任务、指标、对照方法或被试内／跨被试等划分协议，也未说明这些百分数是相对提升还是百分点差值，因此不能据此比较不同数据集上的效果。实验协议、消融及统计信息尚未验证。 作者认为所学表征能够捕捉 EEG 的时空动态，并为功能连接分析与自监督表征学习建立联系；摘要尚不足以确认其脑区关系解释能力。复现时需取得全文中的电极布局与预处理要求、伪标签生成流程、预训练和微调设置，并核对空间信息保留的直接证据及对通道配置变化的适用范围；代码与数据可用性尚未验证。

    阅读价值：值得核对其 coherence 伪标签预测如何保持电极与表征的一一对应关系，以及微调收益是否来自空间信息保留；摘要提供了明确的机制方向，但具体实现与评估协议尚未验证。

  2. OpenReview · Representation learning71

    FORLA：基于 Slot Attention 的联邦对象中心表征学习

    基于摘要分析。FORLA 面向异质、无标签视觉数据上的联邦表征学习，尝试在保留跨客户端共同信息的同时解耦域特有因素。其核心贡献是协同训练共享特征适配器与共享 slot attention 模块，将基础模型特征适配与对象中心表征学习结合起来。 机制上，共享适配器负责转换基础模型提供的特征，slot attention 模块学习重建适配后的特征，并承担跨客户端对象级表征对齐。为优化适配器，作者设计了双分支 student–teacher 架构：各客户端的 student decoder 重建基础模型的完整特征，teacher decoder 重建适配后的低维特征。摘要未给出具体损失形式、教师更新方式、联邦聚合策略或基础模型配置，这些实现条件尚未验证。 作者报告，在多个真实世界数据集的对象发现任务中，FORLA 优于集中式基线，并学得紧凑、可跨域泛化的表征。但摘要未提供数据集名称、客户端划分、评价指标、数值结果及基线配置，因而无法判断优势出现的具体条件，也不能据此认定其在所有联邦设置下优于集中式训练。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移至 EEG 的假设是，共享适配器可缓解不同被试或采集域的特征差异，slot attention 可用于提取跨域共有的潜在成分。原方法依赖基础模型特征及视觉对象结构；EEG 中是否存在可稳定分离、对齐的对应成分尚不明确。可复用部分是共享适配与潜在成分重建，需改造 EEG 特征编码、时空位置表示及客户端划分。低信噪比、通道不一致和小数据可能使 slot 聚合噪声或被试特有因素，而非任务相关成分。一个可检验的小实验是在固定 EEG 编码器和相同 Cross-subject 划分下，对比共享适配器单独使用与加入 slot attention 的方案，核对跨被试表现及成分稳定性；这不是已验证的 BCI 结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体原因是 FORLA 将共享特征适配器、无监督 slot attention 与双分支 student–teacher 重建结合，用于异质客户端间的对象级表征对齐，但其优于集中式基线的条件及向 EEG 迁移的可行性尚未验证。

  3. OpenReview · Representation learning74

    面向定制任务的条件表征学习

    基于摘要分析。该研究针对通用表征偏向主导语义、难以匹配用户定制任务的问题，提出 Conditional Representation Learning（CRL），利用用户指定的语义准则构造条件特征空间，并将图像表示投影到该空间，为定制分类与检索任务提供表征。 核心机制：作者提出，特征空间的语义由其基决定，因此可用一组描述性词语近似定制空间的基。CRL 先通过大语言模型（LLM）生成与用户准则相关的描述文本，再借助视觉语言模型（VLM）将图像表示投影到相应条件空间。摘要以动物栖息地分析为例，说明任务需要场景特征，而通用嵌入可能更强调类别语义。其方法侧重按准则调整表示空间，而非直接依赖监督微调；是否完全免训练、如何构造和规范化语义基、具体投影公式及计算成本尚未验证。 作者报告，分类与检索实验支持 CRL 的优越性和通用性，但摘要未提供数据集、划分、对照方法或具体指标，暂不能判断收益幅度及适用边界。实验协议、消融及统计信息尚未验证。摘要提供了代码仓库地址，但实现细节、模型依赖和复现条件尚未核查，亦不能由仓库名称推断论文接收状态。 平台推测（待验证）：该机制可能为 EEG 中“通用表征未保留目标任务信息”的问题提供思路，但原方法依赖图像与文本之间的语义对齐，不能直接视为 EEG 方法。假设已有 EEG 编码器可与任务描述建立可靠对齐，可复用文本准则生成与条件投影思路，需改造信号编码和跨模态对齐模块。低信噪比、跨被试或通道差异，以及小数据条件下的对齐不稳定，可能使文本基无法对应可解码的神经特征。一个可检验的小实验是在固定的跨被试划分下，对同一冻结 EEG 表征比较原始表示、真实任务文本条件投影与打乱文本条件投影，检查增益是否确由任务语义带来。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 CRL 如何用文本构造条件语义基并投影图像表示，以缓解通用表征与定制任务的语义错配；其对 EEG/BCI 的适用性尚未验证。

  4. OpenReview · Representation learning77

    GLIM：面向混合整数线性规划的可泛化学习表示

    基于摘要分析。该研究针对混合整数线性规划（MILP）的学习方法难以泛化至训练分布之外或不同任务的问题，提出通用嵌入模型 GLIM（Generalizable Learning Representation for MILPs），旨在让不同 MILP 类别和下游任务共享表示。 核心机制是将每个 MILP 实例编码为二部图，通过结合 GNN 模块与 Perceiver-like blocks 的混合架构处理。作者以问题类型与问题规模是相互正交、其交互影响经验求解难度这一观察为动机，学习旨在解耦类型、规模与求解复杂度的联合表示。摘要称训练语料包含约 78,000 个实例，覆盖 2,000 个问题类别；图特征、解耦约束、损失函数、监督信号及训练细节尚未验证。 作者在 MILP Instance Retrieval 与 MILP Solver Hyperparameter Prediction 两项任务上评估表示质量。作者报告，在分布内和分布偏移设置中，包括真实世界 MIPLIB 基准，GLIM 在多数情况下优于强基线，并能迁移至新类别与新规模。摘要未提供具体指标、提升幅度、基线名称或划分方式，因此不能据此量化优势；实验协议、消融及统计信息尚未验证。复现需进一步核对训练语料构成、训练与测试类别及规模的隔离方式，以及两项任务的评价标准。 平台推测（待验证）：其潜在 BCI 关联更偏向优化环节，而非直接处理 EEG。假设电极选择或资源调度能够明确表述为 MILP，GLIM 的实例编码与求解器超参数预测模块可能可复用，但需适配变量、约束与目标的图特征，并核查训练语料是否覆盖相应问题结构。EEG 低信噪比和跨被试变化可能使优化输入不稳定；通道规模变化及少量可用实例也可能削弱迁移。一个可检验的小实验是在固定的电极选择 MILP 集合上，比较 GLIM 预测超参数与默认求解器配置的求解时间及解质量，并单独保留未见通道规模作为测试条件。此为迁移假设，不是论文已验证结果；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其如何将 MILP 的问题类型、规模与求解复杂度纳入可复用表示，并核对分布偏移下实例检索与求解器超参数预测的泛化证据；其对 EEG/BCI 的价值尚未验证。

9月16日周二
  1. OpenReview · Representation learning65

    用于异质图表示学习的双视图对比学习框架

    基于摘要分析。该研究针对异质图表示学习难以同时捕获长程语义依赖与局部结构模式的问题，提出 Dual-View Contrastive Learning（DVCL），通过结构视图、语义视图及动态双向对比学习获得互补表示。 结构侧的 Graph Schema View Module（GSVM）使用关系图神经网络，以类型感知消息传递和自适应残差连接建模结构依赖。语义侧的 Semantic Meta-Path Mamba Module（SMPMM）采用全局增强的 Mamba 骨干，并结合多分辨率融合与方向位置编码捕获高阶语义依赖。两种视图互为可学习增强，通过动态双向对比学习整合。摘要未提供具体损失形式、视图构造细节、动态更新机制及训练配置，相关实现尚未验证。 作者报告，在四个数据集的分类与聚类任务上，DVCL 一致优于所比较的当前先进方法。摘要未列出数据集名称、划分协议、对照方法或具体指标，因此无法判断优势幅度与适用范围；实验协议、消融及统计信息尚未验证。复现时需核对元路径的选择方式、各模块的独立贡献，以及长程建模带来的计算开销。 平台推测（待验证）：若将 EEG 通道、频段及其关系构造成异质图，可假设类型感知消息传递适合整合不同关系，语义视图则可能建模跨通道或跨频段的高阶关联。可复用双视图整合思路，但节点类型、元路径与方向编码须依据 EEG 数据重新定义，不能直接把图上的长程语义等同于 EEG 时间依赖。低信噪比、跨被试关系漂移、通道差异及小数据规模可能使构图误差被放大，或导致对比学习过拟合。一个可检验的小实验是在固定 Cross-subject 划分下，对照结构视图单独使用与双视图联合使用，并保持输入、分类器及训练预算一致；以上不构成已验证的 BCI 效果，已有 EEG 相关工作尚未检索确认。

9月11日周四
  1. OpenReview · EEG78

    EEG-X：设备无关且噪声鲁棒的 EEG 基础模型

    基于摘要分析。EEG-X 针对记录设备与配置差异导致的跨数据集变化，以及 EEG 低信噪比问题，提出结合通道空间位置编码、噪声感知掩码重建和特征空间重建损失的 EEG 基础模型，旨在学习更具跨域适应性与噪声鲁棒性的表征。 核心机制包括三部分：其一，基于位置的通道嵌入编码空间信息，使模型能够处理不同通道数量、通道组合和记录长度。其二，在原始空间与潜在空间采用噪声感知掩码—重建策略；与重建原始含噪 EEG 的做法不同，重建目标来自伪迹去除后的信号，作者意图借此使表征更关注神经活动而非噪声。其三，dictionary-inspired convolutional transformation（DiCT）层在计算重建 MSE 损失前，将信号投影至结构化特征空间；作者认为该设计可降低噪声敏感性，并捕捉频率与波形形状相关的相似性。具体去伪迹流程、掩码规则、DiCT 实现及各目标的组合方式尚未验证。 作者报告，在来自不同设备的数据集及多个下游 EEG 任务上，EEG-X 优于所比较的现有先进方法，并在预训练与下游数据电极布局不同的跨域设置中表现突出。摘要未提供数据集名称、任务明细、被试数量、划分方式、指标或数值，因此不能据此量化收益，也不能将这里的跨域结果直接等同于跨被试或跨会话性能。 复现时值得核对位置嵌入对通道坐标的依赖、去伪迹处理是否保留任务相关信号，以及各模块在不同设备与电极布局下的独立贡献；这些属于待核对事项，而非已确认的缺陷。摘要提供了模型与代码入口，但其可用性、训练配置、实验协议、消融及统计信息尚未验证。

    阅读价值：值得核对和复现的是 EEG-X 将位置编码、去伪迹重建目标与 DiCT 特征空间损失结合，以应对电极布局差异和低信噪比；作者报告的跨域优势仍需结合完整实验协议验证。

9月6日周六
  1. OpenReview · Representation learning79

    可证明地学习任务相关的世界表征

    基于摘要分析。该研究探讨如何从观测 o = f(s) 中识别任务相关潜在表征，核心贡献是在非参数设定下，分别给出跨时间步任务结构与单个时间步内任务相关表征的可辨识性保证。这里的可辨识性指渐近条件下恢复真实表征的理论保证，不等同于有限数据下的预测性能。 作者报告，第一项理论结果可在完全无监督条件下识别时间步与任务之间的结构，允许序列不具有严格时间依赖、存在断连，以及任务分配具有复杂交错结构。第二项结果表明，借助简单的稀疏正则化，可在每个时间步内将任务相关潜在表征与无关部分解耦，无需额外信息或参数化约束。两项结果构成分层框架：先识别跨时间步的任务结构，再识别步内的任务相关表征。作者将其描述为迈向可证明地从通用模型转向专用模型的一步，并声称据其所知，两项结果各自提供了首个一般非参数可辨识性保证；这些优先性声明尚未独立核对。 摘要未提供定理的完整前提、可辨识性的等价范围、稀疏正则化的具体形式或可实施训练流程。实验协议、消融及统计信息尚未验证，不能据此判断实际恢复精度、样本需求或计算代价。 平台推测（待验证）：假设 EEG 观测中存在可与任务无关活动分离的潜在因素，该分层思路可能对应 EEG 中任务信号与背景活动混杂、跨被试表征不稳定的问题。可借鉴的是结构识别与相关／无关因素分离的理论框架；观测映射、噪声模型、任务结构和稀疏条件则需针对 EEG 核对或改造。低信噪比、被试差异、通道混合及小数据可能使有限样本恢复失效。一个可证伪的小实验是在已知潜在因素与任务结构的合成 EEG 类混合信号上，改变噪声和任务交错程度，比较采用与不采用稀疏正则化时的因素恢复能力；这仅是迁移假设检验，不是已验证的 BCI 效果。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其跨时间步任务结构与步内任务相关表征的分层可辨识性论证，重点核对非参数假设、稀疏正则化条件及可辨识性的等价范围；其对 EEG 表征学习的适用性尚未验证。

7月13日周日
  1. OpenReview · Representation learning60

    知识图谱增强的 DNA 表征学习

    基于摘要分析。研究针对 DNA 预训练模型主要依赖核苷酸序列自监督学习、难以利用专家整理的结构化知识这一问题，提出 Knowledge Graph-Augmented DNABERT（KGA-DNABERT），在 DNABERT-2 的掩码语言建模（MLM）目标之外引入知识图谱（KG）建模。其贡献包括探索序列表征与知识图谱嵌入的结合，并报告这一尝试在所测试知识图谱上的收益有限。 方法上，作者从人类基因组数据库 GenomicKB 提取事实三元组以构建 KG，并纳入六种常用 KG embedding 方法，尝试补充序列层面之外的知识。摘要未列出这些方法的名称，也未说明三元组与序列的对齐方式、目标组合形式及训练流程，因此尚不能判断知识通过何种具体路径影响 DNA 表征。 结果方面，作者报告，在本文测试的 KG 条件下，加入知识图谱未带来实质性收益；摘要没有提供任务、指标、划分协议或数值。作者将这一结果归因于所构建 KG 仅覆盖 GenomicKB 的一部分、知识覆盖不足，但这一解释是否得到覆盖率分析或受控实验支持尚未验证。该结论不宜扩大为知识图谱增强 DNA 表征普遍无效。实验协议、消融及统计信息尚未验证，代码与复现条件也尚未验证。 平台推测（待验证）：其可迁移假设是，结构化领域知识可能补充 EEG 自监督序列表征，但需先建立可与 EEG 样本对齐的实体、关系及知识监督；DNA 中的实体关系不能直接复用。可借鉴的是辅助 KG 建模思路，需改造的是知识构建与信号对齐模块。低信噪比、跨被试差异、通道配置变化和小数据可能使知识对齐不稳，或让辅助目标引入偏差。一个可检验的小实验是在固定 EEG 数据划分与编码器条件下，对照仅掩码建模、加入真实 KG 和加入关系打乱的 KG，并控制知识覆盖率，检验收益是否确由结构知识带来。已有 EEG 相关工作尚未检索确认。

6月22日周日
  1. OpenReview · Representation learning67

    因果信息指导的统一语义与 ID 表示学习

    基于摘要分析。研究针对大规模在线广告推荐中曝光有限、数据稀疏及冷启动条件下的物品表示问题，提出融合语义 token 与 ID token 的统一表示学习框架，并结合分层相似度机制与因果学习原则，以改善物品区分能力和泛化能力。 核心机制：ID token 作为物品特有信息的锚点，语义 token 编码可共享、可迁移的属性。作者认为，单独依赖 ID 表示容易产生冗余且冷启动泛化较差，而语义表示也可能存在重复与收益不稳定。框架在早期层使用余弦相似度，以缓解嵌入过度平滑；在最终层使用欧氏距离，以增强物品区分。摘要还提出通过因果学习解耦用户曝光偏差，但因果变量、识别假设、具体损失与训练流程尚未验证。 结果与复现：作者报告，在三个基准数据集上，相较作者所称的 SOTA 基线取得 6%–17% 的性能提升，并将 token 词表规模缩减超过 80%。摘要未明确数据集名称、评价指标、提升是相对比例还是百分点、数据划分及词表缩减的对照条件，因此这些数字不能直接解释为 Accuracy 提升或模型参数缩减。摘要提供了代码地址，但代码可用性、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，将共享语义与个体特有信息分开建模，可能有助于处理 EEG 的跨被试差异。原方法依赖用户—物品交互、物品 ID、语义属性及曝光过程；EEG 中没有直接等价的曝光机制，需要重新定义数据结构、监督信号与偏差来源。可考虑复用双类表示和分层相似度思想，但被试 ID 不应直接替代物品 ID。低信噪比、通道不一致与小样本可能使共享语义不稳定，或使 ID 表示记忆被试而损害泛化。一个可证伪的小实验是在固定 Cross-subject 划分下，对比共享表示、共享加被试特有表示及加入分层相似度的版本，检查收益是否稳定出现在未见被试上；已有相关 EEG 工作尚未检索确认。

5月10日周六
  1. OpenReview · Representation learning77

    基于 Empowerment 的表征学习与技能发现

    基于摘要分析。本文研究强化学习中表征学习与无监督技能发现如何联合进行，提出以 empowerment 目标同时优化观测表征和可执行技能，并提供理论分析及新的 actor-critic 架构。 核心机制：摘要将 empowerment 描述为衡量智能体从某种表征出发能够执行的不同技能的最大数量。作者的理论分析指出，如果表征不把具有不同充分统计量的观测合并，可执行的不同技能数量就会增加，因此最大化该目标有助于学习观测的充分统计量表征。为联合学习表征与技能，作者采用相较既有工作更紧的互信息变分下界，并通过新的 actor-critic 架构优化该目标；下界的具体形式、成立条件、技能参数化及训练流程尚未验证。 结果与证据边界：作者报告，在其经验评估中，该方法相比现有无监督技能发现方法能学习显著更多的技能，并能获得适用于下游强化学习的表征。摘要未给出环境、观测结构、基线名称、技能计数标准或下游指标，故无法量化收益，也无法核对“显著”的统计含义。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，若 EEG 驱动的交互任务具备可执行动作、连续交互轨迹和可区分的结果，该目标可能帮助保留与控制有关的状态信息，而非仅重建观测；这并不等同于已验证的 EEG 分类收益。可考虑复用互信息目标与 actor-critic 优化框架，但需改造 EEG 编码器、技能定义和交互环境。低信噪比、跨被试及通道差异可能使技能区分依赖伪相关，小数据也可能使互信息估计不稳定。一个可证伪的小实验是在固定 EEG 交互任务、数据划分和交互预算下，对照联合目标与仅技能发现目标，检验下游控制表现及跨被试稳定性；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其以 empowerment 联合驱动表征学习与无监督技能发现的理论机制，并核对更紧的互信息变分下界是否带来可复现的收益；摘要未提供具体实验协议。

5月1日周四
  1. OpenReview · Representation learning75

    强化学习中基于 Laplacian 的在线表征学习

    基于摘要分析。本文研究强化学习中的 Laplacian 表征能否与策略学习一起在线学习，并获得理论保证；核心贡献是基于 Asymmetric Graph Drawing Objective（AGDO）构建在线优化方法，分析在线投影梯度下降的收敛性。 该框架利用底层状态转移图的 Laplacian 矩阵特征向量，将原始感官观测编码为表征。论文关注的不只是表征是否有用，而是在持续交互、策略学习同时进行的条件下，能否在线获得目标 Laplacian 表征。作者报告，在一定假设下给出了收敛分析，并通过仿真实验验证向真实 Laplacian 表征的收敛；同时讨论不同强化学习算法与在线表征学习的兼容性。摘要未披露 AGDO 的具体形式、约束、假设内容、仿真环境、对照方法及定量结果，实验协议、消融及统计信息尚未验证，不能据此判断样本效率或跨任务泛化是否获得实际提升。 平台推测（待验证）：若 EEG 状态能够构成有意义的时间转移图，该机制可能用于学习保留状态转移结构的在线表征，为非平稳信号的持续更新提供一个研究切入点。这一假设依赖可靠的图构建与足够的转移观测，原领域的收敛结论不等于 EEG/BCI 有效。可考虑复用在线优化框架，但需改造 EEG 状态定义、邻接关系及观测编码；低信噪比、跨被试差异、通道变化和小数据可能使转移图失真或估计不稳定。一个可检验的小实验是，在固定被试内划分和相同 EEG 特征输入下，对比在线更新与冻结的 Laplacian 表征，检查目标值、表征稳定性及下游解码表现，并避免使用测试阶段未来观测构图。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体原因是作者将 Laplacian 表征学习表述为基于 AGDO 的在线优化问题，并分析在线投影梯度下降的收敛性，可用于核对表征更新与策略学习如何兼容，但其对 EEG/BCI 的适用性尚未验证。

1月23日周四
  1. OpenReview · Representation learning74

    迈向表征对齐的学习理论

    基于摘要分析。本文研究如何从学习理论角度理解不同 AI 模型之间的表征对齐，核心贡献是将任务语境中的 stitching 性质与底层表征的 kernel alignment 联系起来，而非仅以经验相似度判断表征是否对齐。 作者首先梳理并联系基于度量、概率与谱的不同对齐概念，随后聚焦 stitching，即在具体任务中考察不同表征之间的衔接与相互作用。作者报告，其理论结果建立了 stitching 性质与 kernel alignment 的关联，并将这一工作定位为把表征对齐形式化为学习理论问题的初步探索。摘要未给出具体定理、假设、界或 stitching 的实现方式，不能据此判断该关联是否意味着任务性能等价。 文中关于模型规模与性能提高时表征趋于对齐、乃至趋向共同现实统计模型的说法，是研究背景中的既有观点与猜想，不应视为本文已经证实的结论。具体数据、监督条件、模型规模依赖、实验协议、消融及统计信息尚未验证；复现或核验需取得正文中的对齐定义、理论假设及任务设置。 平台推测（待验证）：若该理论能处理不同表征空间及任务监督条件，可用于分析 EEG 跨被试或跨模型表征的相似性是否对应实际解码可迁移性。可借鉴的是 kernel alignment 与 stitching 的联合分析；需改造的是通道对应、表征接口及跨被试评估协议。低信噪比、被试差异和小样本可能使相似度估计不稳定。一个可检验的小实验是在固定跨被试划分下，比较不同 EEG 表征的 kernel alignment 与受控 stitching 后任务表现是否一致变化；这不是本文已验证的 EEG 结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体原因是作者将任务语境中的 stitching 性质与表征的 kernel alignment 联系起来，为区分表征相似性与任务可用性提供学习理论视角，但具体结论及适用条件尚未验证。

1月1日周三
  1. OpenReview · EEG72

    EEGDM：基于生成式扩散模型的 EEG 表征学习

    基于摘要分析。该研究针对 EEG 标注有限、信号变异性高导致的表征学习困难，提出生成式扩散表征学习框架 EEGDM，并将预训练得到的潜在 EEG 表征用于下游分类，探索区别于现有 EEG 基础模型的技术路径。 核心机制是用于扩散预训练的结构化状态空间模型 SSMDP：作者以其捕获 EEG 的时间动态，并在 Denoising Diffusion Probabilistic Model（DDPM）框架下训练。随后，作者提出 latent fusion transformer（LFT），利用所得潜在表征完成分类。摘要未说明扩散噪声设定、具体训练目标、潜在表征提取位置及 LFT 的融合方式，这些实现细节尚未验证。 评估采用涉及发作间期癫痫样放电的 TUEV 与涉及癫痫发作检测的 CHB-MIT，并与现有方法及 EEG 基础模型比较。作者报告 EEGDM 优于所比较的方法，但摘要未提供具体指标、数值、基线名单及被试内或跨被试等划分信息，因而尚不能判断优势幅度、统计可靠性或跨协议泛化能力。这些任务属于 EEG 临床事件识别，不能直接视为已验证的 BCI 控制效果。 作者将大型 EEG 基础模型的训练与推理成本、模型增大时收益有限作为研究动机，但摘要并未给出 EEGDM 的参数量、训练开销或推理效率，不能据此确认其计算成本优势。复现时需核对数据预处理、预训练与下游数据的划分关系、分类协议、基线配置以及 SSMDP 和 LFT 的独立贡献；实验协议、消融及统计信息尚未验证。摘要提供了源码与 checkpoint 链接，但其内容、可运行性和复现实验条件尚未核验。

    阅读价值：值得核对其以结构化状态空间模型进行扩散预训练、再融合潜在 EEG 表征的机制，以及相对 EEG 基础模型的分类收益与计算成本；摘要中的性能优势尚需结合完整实验协议验证。

11月12日周二
  1. OpenReview · Representation learning76

    通过指令微调进行无监督文本表示学习，用于零样本稠密检索

    基于摘要分析。该研究针对稠密检索依赖标注数据、低资源场景难以获得监督信号的问题，在双编码器检索框架下对预训练编码器—解码器 LLM 进行指令微调，以学习无监督文本表示并改善零样本检索。 核心机制包含两部分：利用指令微调后的 LLM 生成与语料文本相关的合成查询，并以这些查询的表示增强语料表示；再通过 self-instruct tuning 对齐查询与语料文本的表示。作者将表示增强的理论依据关联到 Rao-Blackwell 定理，但摘要不足以核对其具体估计量、适用假设、表示组合方式及训练目标。 作者在低资源设置下，使用三个英语、两个德语和一个葡萄牙语检索数据集，以 NDCG@10、MRR@100 和 Recall@100 评估方法。作者报告所有指标的平均零样本检索表现均得到改善，相对开箱即用的 FLAN-T5 不同模型变体，绝对 NDCG@10 增益区间为 [4.73%, 6.15%]（保留摘要原文数值表述），并超过四个有监督稠密检索器。数据集名称、训练与测试划分、各指标分项结果、模型规模、对照训练条件及统计显著性检验尚未验证，不能据此认定在所有单独数据集上均占优。 平台推测（待验证）：其较直接的 BCI 应用是领域文献或实验记录的文本检索，而非 EEG 信号表征学习。迁移假设依赖生成模型能够产生准确的 BCI 专业查询；可复用合成查询增强与表示对齐思路，但需验证术语错误和生成偏差是否损害检索。摘要未提供将该机制映射到 EEG 时序、通道或跨被试结构的依据，不能推断其提升 EEG 解码；相关 EEG 工作尚未检索确认。复现还需核对指令模板、合成查询生成设置、表示聚合方式与实现可用性。

    阅读价值：值得核对其利用合成查询增强文档表示并通过自指令微调对齐查询与文档的机制，以及低资源零样本检索增益对模型规模、数据划分和对照设置的依赖。

10月11日周五
  1. OpenReview · Representation learning76

    通过低维建模理解基于扩散模型的表征学习

    基于摘要分析。研究探讨扩散模型为何、以及在何种条件下能够在以生成任务为设计目标的同时，学到高质量的自监督表征。作者提出，关键在于扩散模型通过受噪声水平控制的去噪目标，学习图像数据集的低维分布，并据此分析噪声尺度变化下的表征学习行为。 机制与贡献：作者报告，实证结果支持上述假设，不同噪声水平下的表征学习性能变化，与相应后验估计的质量密切相关。在这一观察基础上，作者提供了关于表征随噪声尺度变化呈单峰动态的理论解释，说明去噪过程如何学习有意义的表征。摘要还将扩散模型相对传统去噪自编码器的表征优势归因于其内在的参数共享机制，但具体共享方式、理论假设与对照设置尚未验证。 证据边界：摘要未给出数据集、模型规模、表征评估任务、数据划分或具体指标，因此不能量化优势，也不能判断结论适用的噪声范围与数据条件。实验协议、消融及统计信息尚未验证；复现前需核对低维分布的建模假设、后验估计质量的度量、表征提取位置，以及参数共享对照是否控制了其他因素。 平台推测（待验证）：若 EEG 信号在选定任务和预处理条件下具有可利用的低维结构，这一机制可能为选择自监督去噪的噪声尺度提供依据，但图像领域结果不等于 BCI 有效。可复用的是噪声尺度扫描与去噪表征评估思路，需改造输入表示、噪声模型及通道处理；低信噪比、跨被试差异和小数据可能使去噪目标偏向背景活动而非任务信息。一个可检验的小实验是在固定 EEG 数据划分、模型容量和训练预算下扫描噪声水平，分别评估去噪质量与冻结表征的任务分类表现，检验两者关系及表征性能是否呈单峰变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其关于噪声尺度、后验估计质量与表征性能之间关系的理论解释，并核对参数共享相对传统去噪自编码器的贡献；其对 EEG 自监督学习的适用性尚未验证。

9月28日周六
  1. OpenReview · Representation learning70

    语言引导的表征学习

    基于摘要分析。该研究探讨如何利用语言中的高层抽象指导表征学习，以应对深度神经网络的捷径学习、纹理偏置、噪声敏感性与灾难性遗忘等问题。核心贡献是探索 Explicit Language Guidance 与 Implicit Language Guidance 两类语言指导，并考察其对视觉编码器的监督作用。 机制上，Explicit Language Guidance 向模型引入直接、可用语言表达的见解；Implicit Language Guidance 提供更直觉化、间接的线索。摘要称这些方法仅在文本上训练，却能够为视觉编码器提供监督，但未说明文本训练的具体对象、语言信息与视觉表征的连接方式、损失函数或训练流程，相关实现尚未验证。 作者报告，经验分析显示上述方法改善了泛化、鲁棒性及持续学习中的任务适应性。摘要未提供数据集、数据划分、对照基线、指标或数值，因此尚不能判断各类指导的独立贡献、收益幅度及适用范围；实验协议、消融及统计信息尚未验证。复现需进一步核对文本来源、监督构造、视觉编码器设置以及持续学习任务序列。 平台推测（待验证）：若语言指导能将任务相关的高层概念转化为编码器可利用的监督，它可能为 EEG 表征学习中的捷径依赖和跨被试泛化提供研究思路。该假设依赖语言概念与 EEG 任务之间存在可靠对应关系；可借鉴的是语言指导框架，需改造的是信号编码器及语言与信号的对齐接口。低信噪比、被试差异、通道配置变化和小样本可能使这种对应失效。一个可检验的小实验是在固定 Cross-subject 划分和相同 EEG 编码器下，比较无语言指导、真实任务描述指导与打乱描述指导，观察收益是否依赖正确的语言语义。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读以核对文本训练所形成的语言指导如何监督视觉编码器，以及显式与隐式指导对泛化、鲁棒性和持续学习适应性的具体贡献；其对 EEG 的迁移价值尚未验证。

9月26日周四
  1. OpenReview · EEG76

    以大型时空 Transformer 为基础模型学习鲁棒 EEG 表征

    基于摘要分析。研究针对 EEG 基础模型难以适应不同记录配置、BCI 控制范式及有限标注数据的问题，提出时空 EEG Transformer（ST-EEGFormer），通过自监督预训练与下游微调学习可迁移的 EEG 表征。其主要贡献是将不同通道配置和信号时长的建模，与跨 MI、P300、SSVEP 范式的适应性评估结合起来。 方法将原始 EEG 切分为片段（patches），投影到嵌入空间，并加入空间与时间嵌入。作者以掩码自编码器（MAE）任务进行自监督预训练，预训练数据由六个公开运动想象（MI）数据集、一个公开 P300 数据集和一个公开稳态视觉诱发电位（SSVEP）数据集组成。摘要未提供片段长度、空间位置编码方式、掩码策略、重建目标细节或模型规模，尚不能确认其处理不同通道配置的具体实现条件。 评估包括预训练所涉及八个数据集上的下游分类微调，以及两个未参与预训练的公开数据集：癫痫发作分类数据集和在线 MI BCI 数据集。对照模型包括简单线性模型、EEGNet、监督学习模型 EEG Conformer，以及基础模型 BIOT 和 Large Brain Model（LaBraM）。作者报告，预训练后的 ST-EEGFormer 在八个预训练数据集的下游分类中均取得高于所比较模型的 Accuracy，并在新数据集、有限训练数据条件下表现出较强泛化能力；摘要未给出具体数值或有限数据的规模。 这些结果支持进一步核查统一时空表征与 MAE 预训练的适应性，但不能直接解释为已验证的跨被试、跨会话或无需微调的泛化。数据集名称、被试数、训练与测试划分、预训练与评估样本的关系、各基线微调预算、消融及统计信息尚未验证。作者还提供模型及支撑结果的特征可视化，其解释性结论需结合正文审阅；代码、权重与完整复现条件尚未验证。

    阅读价值：值得阅读其跨 MI、P300 与 SSVEP 范式的统一预训练设计，以及在未参与预训练的数据集上检验有限训练数据条件下泛化能力的实验；作者报告的优势仍需结合具体划分、微调预算与统计结果核对。

  2. OpenReview · Representation learning78

    用于强化学习的扩散谱表征

    基于摘要分析。本文针对强化学习（RL）中扩散模型采样推理成本较高的问题，提出 Diffusion Spectral Representation（Diff-SR），将扩散模型用于表征学习，而非在策略优化过程中依赖扩散采样。其核心贡献是利用扩散模型与能量模型的联系，为马尔可夫决策过程（MDP）及部分可观测马尔可夫决策过程（POMDP）的价值函数提取充分表征。 机制与创新：摘要将既有扩散方法的计算瓶颈归因于迭代采样，并提出从表征学习角度利用扩散模型对复杂分布的表达能力。作者称 Diff-SR 能支持高效策略优化及实用算法，同时绕开扩散模型采样的困难与推理成本。这里的“绕开采样”不等于消除全部训练或推理开销；谱表征的构造方式、充分性成立的假设、损失函数及策略优化接口尚未验证。 结果与证据边界：作者报告，在完全可观测与部分可观测设置下的多个基准上，Diff-SR 展现出稳健且有利的性能。摘要未提供具体基准名称、评价指标、对照方法或计算成本测量，因此尚不能量化其性能与效率收益。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，若 EEG 驱动的闭环 BCI 可建模为 POMDP，Diff-SR 的价值函数表征可能有助于处理观测不完整，并减少在线决策对扩散采样的依赖。但这一路径需要动作、奖励及状态转移轨迹，而非仅有 EEG 分类样本；可考虑复用表征学习与策略优化框架，需改造 EEG 观测编码及历史信息处理接口。低信噪比、跨被试分布变化、通道差异和小规模交互数据可能使表征学习失效。一个可检验的小实验是在固定 EEG 轨迹划分与相同交互预算下，对比 Diff-SR、直接扩散采样策略及非扩散表征基线的任务回报与决策延迟。该设想不代表已验证的 BCI 效果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其如何利用扩散模型与能量模型的联系提取价值函数表征，并绕开扩散采样的推理开销；表征充分性的具体条件和效率收益尚需全文核对。

  3. OpenReview · Representation learning76

    DenoiseRep：用于表征学习的去噪模型

    基于摘要分析。DenoiseRep 研究如何将去噪机制用于判别任务的表征学习，通过联合特征提取与去噪提升特征的判别能力。其核心贡献是将骨干网络中的各嵌入层视为逐步去噪层，并通过参数融合消除独立去噪计算。 机制上，作者将从低层到高层的级联特征提取，与递归、逐步的特征去噪统一起来。作者称，特征提取层与去噪层的参数可以融合，并给出了融合前后等价性的理论论证，据此主张特征去噪无需额外计算。摘要未说明去噪目标、噪声构造、损失形式、训练流程或参数融合的适用条件，这些内容尚需全文核对。该方法被描述为无需标签，也可与可用标签互补；这不等于所有下游任务的训练均不使用标签。 作者报告，在重识别数据集 Market-1501、DukeMTMC-reID、MSMT17、CUHK-03、vehicleID，图像分类数据集 ImageNet、UB200、Oxford-Pet、Flowers，以及 COCO 目标检测和 ADE20K 图像分割任务上观察到稳定的改进，并在 ResNet、ViT、Swin、Vmamda 架构上验证有效性。摘要未提供具体指标、数值、数据划分或对照基线，无法据此判断收益大小及不同任务间的可比性；实验协议、消融及统计信息尚未验证。复现还需核对融合实现、训练配置及代码可得性。 平台推测（待验证）：若逐层去噪确实能够保留判别信息，并且融合条件适用于 EEG 编码器，该机制可能用于缓解 EEG 表征中的噪声干扰。可复用部分是逐层特征去噪与参数融合思路；需改造部分包括时序与通道特征处理、噪声定义及下游监督方式。视觉数据上的结果不能证明其适用于低信噪比、跨被试或小样本 EEG；去噪可能误删弱任务信号，通道变化也可能破坏特征假设。一个可检验的小实验是在固定跨被试划分下，对比同一 EEG 骨干加入与不加入 DenoiseRep 的表现，同时检查融合前后输出一致性及推理开销。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其特征提取与去噪层参数融合的等价性条件，以及无需标签的特征增强能否在不增加推理计算的前提下稳定改善判别任务；向 EEG 迁移的有效性尚未验证。

  4. OpenReview · Representation learning77

    从表示学习视角理解 Transformers 如何进行上下文学习

    基于摘要分析。本文研究 Transformers 的上下文学习（ICL）机制，即模型如何仅凭少量示范样例、在不更新参数的情况下执行新任务。核心贡献是借助核方法构建单个 softmax attention 层的对偶模型，从表示学习视角解释 ICL 推理，并分析示范 token 数量与泛化误差的关系。 机制方面，作者报告，attention 层的 ICL 推理过程可对应于对偶模型的训练过程，所生成的 token 表示预测与对偶模型的测试输出等价。作者进一步分析该对偶模型的训练过程，推导与示范 token 数量有关的泛化误差界，并将理论结论扩展至单个 Transformer 层及多个 attention 层。摘要未提供等价关系成立的假设、误差界的具体形式或适用分布，因此不能据此推断增加示范必然改善任意任务表现。 方法探索方面，作者受表示学习方法、尤其是对比学习启发，提出对 attention 层的潜在修改，并报告设计了实验支持研究结论。具体修改方式、训练目标、任务与数据集、对照基线、结果指标、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：该分析可能为 EEG 上下文示范如何影响表示提供理论切入点，但语言 token 的结论不能直接迁移为 BCI 效果。迁移假设依赖于 EEG 能否形成适合该理论的 token 表示与任务示范结构；可考虑复用 attention 与对偶模型分析框架，而 EEG 分段、通道表示及示范组织方式需要改造。低信噪比、跨被试差异、通道不一致与小样本可能使理论假设失效。待核对全文条件后，可在固定 EEG 编码器和被试内数据划分下，仅改变上下文示范数量、保持模型参数不变，检验任务误差是否符合理论预期。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是作者通过核方法将 softmax attention 的 ICL 推理与对偶模型训练联系起来，并给出涉及示范 token 数量的泛化误差界；其假设条件及实验支持程度尚待全文核对。

  5. OpenReview · Representation learning76

    强化学习中的离线多任务表征学习

    基于摘要分析。本文研究如何从多个具有共同表征的任务的离线数据中学习共享表征，并提出用于离线多任务表征学习的算法 MORL。其贡献是在低秩强化学习（RL）框架下开展理论分析，并考察所学表征对新任务的作用。 核心设定是上游多个任务与下游新任务共享同一表征。作者进一步分析 reward-free、offline 和 online 三类下游 RL 场景。作者报告，理论结果表明，利用上游离线任务学得的表征，相比直接学习低秩模型的表征具有收益；摘要未给出具体收益界、适用条件或量化结果，因此不能将其解读为已验证的实际性能提升。MORL 的优化目标、算法步骤、离线数据覆盖要求及共享表征的具体形式尚未验证，实验协议、消融及统计信息亦尚未验证。 平台推测（待验证）：若某类 BCI 闭环控制问题可以表述为多个共享潜在动力学表征的 RL 任务，该框架或可为离线交互数据的跨任务复用提供理论参照。这里可借鉴的是共享表征学习与下游任务适配的分工，而非将低秩 RL 结论直接套用于 EEG 分类。应用于 EEG/BCI 时，观测编码、任务定义及状态—动作—奖励接口均需适配；低信噪比、跨被试差异、通道变化、小样本和离线数据覆盖不足，都可能使共享表征假设失效。现阶段应先核对理论假设是否匹配目标任务，再评估迁移可行性；相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其离线多任务低秩 RL 的共享表征学习框架及下游理论分析，但收益所依赖的任务共享假设与数据条件仍需全文核对，尚不能据此推断 EEG/BCI 效果。

  6. OpenReview · Representation learning76

    用于增强强化学习泛化能力的 State Chrono Representation

    基于摘要分析。该研究关注图像输入强化学习中的状态表征泛化问题，提出 State Chrono Representation（SCR），通过在 bisimulation metric 学习的更新步骤中引入更长期的时间信息，增强表征对未来行为的刻画。 核心机制：现有深度 bisimulation metric 方法利用任务相关特征定义状态距离，并从像素观测学习结构化低维表征。作者认为，这类方法在高难度泛化任务和奖励信息不足的场景中，可能因长期信息刻画不足而受限。SCR 在时间框架下联合考虑未来动态，以及当前和长期未来状态的累积奖励，以扩展状态距离学习。作者称，该策略无需为动态建模引入大量额外参数；具体距离定义、损失形式、时间跨度与训练流程尚未验证。 结果与复现：作者报告，在 DeepMind Control 和 Meta-World 环境中的高难度泛化任务上，SCR 优于其他近期基于度量的方法。摘要未提供具体任务划分、基线名称、指标数值或参数开销，因此无法量化收益或比较不同协议。摘要提供了 SCR 代码仓库，但代码内容、运行条件、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，长期时间结构可能帮助 EEG 表征区分短时观测相似、后续演化不同的状态。原方法依赖带有状态转移及奖励信息的强化学习轨迹，而常见 EEG 任务未必具有对应奖励监督；可考虑复用时间化状态距离的思路，但需改造奖励定义、时间窗口与任务相关监督。低信噪比、跨被试差异、通道变化和小数据可能使距离学习捕获伪相关，长期信息也未必与目标任务有关。一个可证伪的小实验是在固定 EEG 任务与相同被试划分下，对比短时度量表征和加入长期时间信息的表征，保持编码器与训练预算一致，检查跨被试收益是否稳定。该实验仅为迁移建议；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 SCR 如何将长期动态与累积奖励纳入 bisimulation metric 更新，以及其泛化收益是否依赖奖励信息和轨迹结构；向 EEG 表征学习迁移的价值尚未验证。

9月23日周一
  1. OpenReview · EEG80

    EEGPT：通过自回归预训练释放 EEG 通用基础模型的潜力

    基于摘要分析。本文针对 EEG 数据格式异构、预训练范式及迁移方式受限的问题，提出通用 EEG 基础模型 EEGPT，将电极级建模、自回归下一信号预测和多任务迁移结合起来，旨在从单数据集专用模型走向兼容不同采集设备、被试与任务的统一模型。 核心机制方面，作者以每个电极作为基本建模单元，整合来自多种 EEG 数据集、涉及最多 138 个电极的数据，形成 37.5M 个预训练样本；摘要未说明样本的切分方式、时长及数据集构成。预训练采用下一信号预测，以替代传统掩码自编码器范式并学习序列与时间依赖，但预测单元、序列组织、损失形式及推理流程尚未验证。作者还探索模型规模规律，所研究模型最大达到 1.1B 参数；规模效应的具体曲线及训练资源尚未验证。 迁移阶段采用跨任务共享的可学习电极图网络。作者报告该机制支持多任务兼容与协同，并称模型可接受最多 138 个电极及其任意组合。需要结合全文核对电极位置与身份如何编码、不同采样率及设备如何对齐，以及任意电极组合的验证范围。 结果方面，作者报告在 5 类下游任务、12 个基准上同时评估，且在所有下游任务上均优于现有专用模型，并通过广泛消融验证有效性。摘要未提供任务与数据集名称、指标数值、对照模型或被试内、跨被试、跨会话、跨数据集划分，因此尚不能判断收益大小及不同协议下的泛化能力；实验协议、消融及统计信息尚未验证。“首个通用 EEG 基础模型”“首个自回归 EEG 预训练模型”及 EEG 研究中最大模型等均为作者主张，不视为已独立核实的结论。 复现方面，作者表示将公开训练代码和模型检查点，当前材料不能确认已发布。后续应核对预训练与下游数据划分、预处理、任务共享方式和训练成本，以区分规模、电极级表示及多任务学习各自带来的贡献。

  2. OpenReview · Representation learning76

    通过低维建模理解基于扩散模型的表征学习

    基于摘要分析。研究探讨以生成为目标的 diffusion models 为什么、以及在何种条件下能够通过自监督学习获得高质量表征，提出其能力源于噪声控制的去噪目标对图像数据低维分布的学习，并从后验估计和参数共享两个角度解释这一机制。 作者报告，表征学习性能随噪声水平变化的情况，与相应后验估计的质量密切相关。基于这一观察，论文提供理论分析，解释表征表现随噪声尺度变化的单峰动态，以及去噪过程如何形成有意义的表征。摘要还指出，扩散模型内在的参数共享机制能够解释其相对传统 denoising auto-encoders 的表征学习优势；具体共享方式、理论假设及对照条件尚未验证。 摘要未提供数据集、数据划分、具体指标或结果数值，因此目前只能确认作者提出的机制解释与定性结论，不能判断优势幅度或适用范围。实验协议、消融及统计信息尚未验证；阅读全文时需重点核对低维分布假设、后验估计质量的测量方式，以及噪声尺度和参数共享各自的贡献。 平台推测（待验证）：若 EEG 中存在可稳定恢复的低维任务相关结构，这一机制可能为自监督去噪中噪声强度的选择提供分析视角，但图像领域结果不等于 EEG/BCI 有效。可复用去噪目标与跨噪声尺度参数共享的思路，输入表示和噪声模型则需适配 EEG 的时序、通道结构及生理噪声。低信噪比、跨被试差异、通道变化与小数据可能使低维结构估计不稳定，或使表征偏向非任务相关成分。一个可检验的假设是：在固定被试内划分、相同训练数据与模型容量下，扫描噪声尺度并比较共享参数模型与分别训练的去噪模型，观察去噪质量和下游 MI 表征表现是否呈现一致变化。相关 EEG 工作尚未检索确认。

    阅读价值：该研究以低维分布建模和后验估计解释扩散模型的表征学习能力，值得核对噪声尺度与表征质量之间的理论联系，以及参数共享相对去噪自编码器的作用证据。