跳到正文

算法、任务与模态

Diffusion 最新动态

Diffusion 研究索引；按可核对的标签归档，不以热度评价质量。

88 条精选近 30 天 68 条共收录 96 条

更新

精选归档 · 第 5 页

10月11日周五第 81–88 条
  1. OpenReview · Representation learning76

    通过低维建模理解基于扩散模型的表征学习

    基于摘要分析。研究探讨扩散模型为何、以及在何种条件下能够在以生成任务为设计目标的同时，学到高质量的自监督表征。作者提出，关键在于扩散模型通过受噪声水平控制的去噪目标，学习图像数据集的低维分布，并据此分析噪声尺度变化下的表征学习行为。 机制与贡献：作者报告，实证结果支持上述假设，不同噪声水平下的表征学习性能变化，与相应后验估计的质量密切相关。在这一观察基础上，作者提供了关于表征随噪声尺度变化呈单峰动态的理论解释，说明去噪过程如何学习有意义的表征。摘要还将扩散模型相对传统去噪自编码器的表征优势归因于其内在的参数共享机制，但具体共享方式、理论假设与对照设置尚未验证。 证据边界：摘要未给出数据集、模型规模、表征评估任务、数据划分或具体指标，因此不能量化优势，也不能判断结论适用的噪声范围与数据条件。实验协议、消融及统计信息尚未验证；复现前需核对低维分布的建模假设、后验估计质量的度量、表征提取位置，以及参数共享对照是否控制了其他因素。 平台推测（待验证）：若 EEG 信号在选定任务和预处理条件下具有可利用的低维结构，这一机制可能为选择自监督去噪的噪声尺度提供依据，但图像领域结果不等于 BCI 有效。可复用的是噪声尺度扫描与去噪表征评估思路，需改造输入表示、噪声模型及通道处理；低信噪比、跨被试差异和小数据可能使去噪目标偏向背景活动而非任务信息。一个可检验的小实验是在固定 EEG 数据划分、模型容量和训练预算下扫描噪声水平，分别评估去噪质量与冻结表征的任务分类表现，检验两者关系及表征性能是否呈单峰变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其关于噪声尺度、后验估计质量与表征性能之间关系的理论解释，并核对参数共享相对传统去噪自编码器的贡献；其对 EEG 自监督学习的适用性尚未验证。

9月26日周四
  1. OpenReview · Representation learning78

    用于强化学习的扩散谱表征

    基于摘要分析。本文针对强化学习（RL）中扩散模型采样推理成本较高的问题，提出 Diffusion Spectral Representation（Diff-SR），将扩散模型用于表征学习，而非在策略优化过程中依赖扩散采样。其核心贡献是利用扩散模型与能量模型的联系，为马尔可夫决策过程（MDP）及部分可观测马尔可夫决策过程（POMDP）的价值函数提取充分表征。 机制与创新：摘要将既有扩散方法的计算瓶颈归因于迭代采样，并提出从表征学习角度利用扩散模型对复杂分布的表达能力。作者称 Diff-SR 能支持高效策略优化及实用算法，同时绕开扩散模型采样的困难与推理成本。这里的“绕开采样”不等于消除全部训练或推理开销；谱表征的构造方式、充分性成立的假设、损失函数及策略优化接口尚未验证。 结果与证据边界：作者报告，在完全可观测与部分可观测设置下的多个基准上，Diff-SR 展现出稳健且有利的性能。摘要未提供具体基准名称、评价指标、对照方法或计算成本测量，因此尚不能量化其性能与效率收益。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，若 EEG 驱动的闭环 BCI 可建模为 POMDP，Diff-SR 的价值函数表征可能有助于处理观测不完整，并减少在线决策对扩散采样的依赖。但这一路径需要动作、奖励及状态转移轨迹，而非仅有 EEG 分类样本；可考虑复用表征学习与策略优化框架，需改造 EEG 观测编码及历史信息处理接口。低信噪比、跨被试分布变化、通道差异和小规模交互数据可能使表征学习失效。一个可检验的小实验是在固定 EEG 轨迹划分与相同交互预算下，对比 Diff-SR、直接扩散采样策略及非扩散表征基线的任务回报与决策延迟。该设想不代表已验证的 BCI 效果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其如何利用扩散模型与能量模型的联系提取价值函数表征，并绕开扩散采样的推理开销；表征充分性的具体条件和效率收益尚需全文核对。

  2. OpenReview · EEG76

    基于 EEG 嵌入与引导扩散的视觉解码和重建

    基于摘要分析。该研究针对 EEG 视觉解码与图像重建，提出端到端零样本框架：通过 Adaptive Thinking Mapper（ATM）将神经信号映射到与 CLIP 嵌入共享的子空间，再用两阶段、多路引导的扩散生成策略结合高层语义与低层视觉信息。 机制方面，第一阶段将 EEG 嵌入与高层 CLIP 嵌入对齐，并通过先验扩散模型将 EEG 嵌入细化为图像先验；同时从 EEG 解码模糊图像，以保留低层特征。第二阶段将高层 CLIP 嵌入、模糊图像以及从 EEG 潜变量得到的文本描述共同输入预训练扩散模型。其方法特点是以互补条件引导生成，而非仅依赖单一语义嵌入。摘要未说明 ATM 的具体结构、对齐损失、文本描述生成方式及各模块的训练或冻结策略，相关细节尚未验证。 作者报告，该框架在零样本视觉分类、检索和重建任务上达到 SOTA，并在 MEG 数据模态上展示了适用性；作者还分析了不同时间窗与脑区对解码和重建的影响。但摘要未提供数据集、被试数、具体指标、数值或对照基线，也未明确零样本的类别划分及被试内、跨被试或跨会话设置，因此不能据此判断性能提升幅度或泛化范围。 复现时应重点核对零样本训练与测试划分、视觉刺激及 EEG 预处理、扩散模型的预训练来源，以及高层嵌入、模糊图像和文本描述各自的贡献。图像生成的语义一致性与 EEG 所支持的细节恢复能力需分开评估，生成图像逼真不直接等同于忠实重建。摘要提供了代码仓库链接，但代码可用性、运行条件、实验协议、消融及统计信息尚未验证。作者提出的 BCI 应用潜力也不等同于已完成在线或实际应用验证。

    阅读价值：值得阅读的具体原因是其将 EEG 对齐的高层语义、低层模糊图像与潜变量生成的文本描述共同用于扩散重建，可重点核对各引导信息的贡献及零样本评估协议；作者报告的性能优势尚需全文验证。

  3. OpenReview · State space models75

    MVGamba：将 3D 内容生成统一为状态空间序列建模

    基于摘要分析。MVGamba 针对 3D Gaussian 重建中的多视角不一致与纹理模糊问题，提出基于类 RNN 状态空间模型（SSM）的轻量多视角 Gaussian 重建器，并结合现成的多视角扩散模型，统一处理单张图像、稀疏图像或文本提示驱动的 3D 内容生成。 核心机制是沿序列传播包含多视角信息的因果上下文，支持跨视角自细化，同时以线性复杂度生成用于细节建模的长 Gaussian 序列。作者将既有方法的问题归因于采用计算密集型架构时对多视角信息传播的妥协；这一解释及其因果证据仍需正文核对。摘要未给出具体序列组织、SSM 实现、损失函数及训练配置。 作者报告，在所评估的各类 3D 内容生成场景中，MVGamba 优于先进基线，模型规模约为对照的 0.1 倍。摘要未明确该比例对应哪些模型，也未提供数据集、划分、评价指标或具体分数，因而不能据此推断推理速度或显存收益。实验协议、消融及统计信息尚未验证。摘要提供了代码仓库，但代码内容与复现条件尚未核验。 平台推测（待验证）：可迁移假设是，SSM 的递归上下文传播或可用于 EEG 长时序建模；原方法依赖多视角图像结构及 3D 重建目标，并不直接对应 EEG 监督。可借鉴状态传播模块，但需重新设计时间与通道的序列组织、输入表征和任务输出，不能直接沿用 Gaussian 生成头。低信噪比可能使状态累积噪声，跨被试与通道差异可能破坏上下文一致性，小数据也可能限制训练。一个可证伪的小实验是在固定 EEG 数据划分与训练预算下，对比保留状态传播和重置状态的模型，检验较长上下文是否稳定改善任务指标。尚未检索确认已有 EEG 相关工作。

    阅读价值：值得阅读其以 SSM 传播跨视角上下文并生成长 Gaussian 序列的机制；作者报告以约 0.1 倍模型规模优于对照，但具体评估协议与 EEG 迁移价值尚未验证。

9月23日周一
  1. OpenReview · Representation learning76

    通过低维建模理解基于扩散模型的表征学习

    基于摘要分析。研究探讨以生成为目标的 diffusion models 为什么、以及在何种条件下能够通过自监督学习获得高质量表征，提出其能力源于噪声控制的去噪目标对图像数据低维分布的学习，并从后验估计和参数共享两个角度解释这一机制。 作者报告，表征学习性能随噪声水平变化的情况，与相应后验估计的质量密切相关。基于这一观察，论文提供理论分析，解释表征表现随噪声尺度变化的单峰动态，以及去噪过程如何形成有意义的表征。摘要还指出，扩散模型内在的参数共享机制能够解释其相对传统 denoising auto-encoders 的表征学习优势；具体共享方式、理论假设及对照条件尚未验证。 摘要未提供数据集、数据划分、具体指标或结果数值，因此目前只能确认作者提出的机制解释与定性结论，不能判断优势幅度或适用范围。实验协议、消融及统计信息尚未验证；阅读全文时需重点核对低维分布假设、后验估计质量的测量方式，以及噪声尺度和参数共享各自的贡献。 平台推测（待验证）：若 EEG 中存在可稳定恢复的低维任务相关结构，这一机制可能为自监督去噪中噪声强度的选择提供分析视角，但图像领域结果不等于 EEG/BCI 有效。可复用去噪目标与跨噪声尺度参数共享的思路，输入表示和噪声模型则需适配 EEG 的时序、通道结构及生理噪声。低信噪比、跨被试差异、通道变化与小数据可能使低维结构估计不稳定，或使表征偏向非任务相关成分。一个可检验的假设是：在固定被试内划分、相同训练数据与模型容量下，扫描噪声尺度并比较共享参数模型与分别训练的去噪模型，观察去噪质量和下游 MI 表征表现是否呈现一致变化。相关 EEG 工作尚未检索确认。

    阅读价值：该研究以低维分布建模和后验估计解释扩散模型的表征学习能力，值得核对噪声尺度与表征质量之间的理论联系，以及参数共享相对去噪自编码器的作用证据。

9月17日周二
  1. OpenReview · EEG71

    NECOMIMI：基于扩散模型的神经认知多模态 EEG 引导图像生成

    基于摘要分析。NECOMIMI 研究如何利用 EEG 信号生成图像，提出结合 NERV EEG encoder 与扩散模型的框架，将研究任务从 EEG-image 分类扩展到图像生成。研究同时提出 Category-based Assessment Table（CAT）Score，以语义概念评价 EEG 生成图像，并在 ThingsEEG 数据集上建立评估基准。 技术机制方面，摘要明确了 EEG 编码器和扩散生成模型两个核心组成部分，但未说明编码表示如何接入扩散模型、是否使用其他模态作为条件，以及训练目标、预训练来源和推理流程。因此，目前可以确认的是 EEG 引导图像生成这一方法方向，尚不能据此重建完整实现。摘要将既有工作概括为主要通过对比学习进行 EEG-image 分类，这属于作者对相关工作的定位，不等于所有既有研究都局限于分类。 结果方面，作者报告 NERV EEG encoder 在 2-way、4-way 和 200-way 零样本分类任务中达到 SoTA，并在其提出的 CAT Score 上取得领先结果；摘要未提供具体分数、比较基线、候选类别构造或数据划分，无法判断这些结论适用于何种被试内、跨被试或跨会话协议。分类表现与生成图像质量是不同评估维度，不能相互替代。 作者报告，模型倾向于生成风景等抽象或概括性的图像，而非具体对象，并将这一现象联系到 EEG 噪声较高、分辨率有限带来的视觉还原挑战。这提示阅读时应区分语义层面的匹配与具体对象细节的恢复，但该现象是否源于 EEG 信息限制、生成模型先验或训练设计，尚需正文证据。 复现需核对 ThingsEEG 的预处理与划分、EEG 与图像的配对方式、零样本任务定义、扩散模型条件接口，以及 CAT Score 的计算规则和评价可靠性。实验协议、消融及统计信息尚未验证；摘要中的图像生成结果也不能直接作为实际 BCI 应用有效性的证据。

    阅读价值：值得阅读的具体原因是其将 EEG 与视觉表示的关联扩展到扩散式图像生成，并提出语义概念评估指标 CAT Score；作者报告的抽象化生成倾向也提供了检查语义一致性与具体对象还原能力的切入点，但性能及评估有效性尚需全文核验。

10月27日周五
  1. OpenReview · EEG70

    使用潜在扩散模型生成合成睡眠 EEG 信号

    基于摘要分析。本研究针对 EEG 数据可用性不足及医疗数据共享受隐私限制的问题，探索结合 spectral loss 的潜在扩散模型，生成睡眠阶段的 30 秒合成 EEG 片段。其核心贡献是将频谱约束引入生成过程，以保持 EEG 特定频带中的结构化振荡。 机制方面，作者强调 spectral loss 对生成符合 EEG 特征的振荡结构至关重要。不过，摘要未提供潜在表示的编码方式、扩散模型结构、频谱损失的具体形式与权重，也未说明睡眠阶段是否作为生成条件；这些实现细节尚未验证。 数据与评估方面，作者使用 Sleep EDFx 和 SHHS 两个大型睡眠数据集训练模型，以 Multi-Scale Structural Similarity Metric、Frechet inception distance 及频谱图分析评估合成信号质量。作者报告，在上述生成质量评估下，模型能够产生具有适当神经振荡特征的逼真信号；摘要未给出指标数值、数据划分、被试内或跨被试协议、对照基线及统计结果，实验协议、消融及统计信息尚未验证。 证据边界方面，作者提出该方法可能缓解 EEG 数据稀缺，但摘要所述信号质量评估不能直接证明合成数据能提升睡眠分期或其他下游任务，也不能据此认定其具备隐私保护能力。复现时需核对预处理、通道配置、潜在编码与训练设置，并验证频谱约束的独立贡献、合成数据的下游效用，以及模型是否记忆训练样本；代码与模型权重的公开情况尚未验证。

    阅读价值：值得关注其以 spectral loss 约束潜在扩散模型生成睡眠 EEG 频带振荡的机制，但合成数据能否改善下游任务及保障隐私尚未验证。

9月16日周六
  1. OpenReview · Representation learning72

    作为自监督表征学习器的掩码扩散

    基于摘要分析。本文研究扩散模型的生成能力与表征学习能力之间的关系，提出 masked diffusion model（MDM），以掩码机制替代传统扩散中的加性高斯噪声，作为可扩展的自监督表征学习器。主要研究对象是医学图像与自然图像的语义分割，而非 EEG 或 BCI。 技术机制：传统去噪扩散概率模型通过加性高斯噪声构造扰动，MDM 改用掩码机制。作者据此探索生成能力与表征学习能力的关联，但摘要不足以确定掩码如何随扩散过程变化、具体预测目标、损失函数、网络结构，以及分割阶段如何使用所学表征。 结果与证据边界：作者报告，MDM 在医学图像和自然图像语义分割任务中优于既有基准，尤其在少样本场景下表现突出。摘要未提供数据集名称、少样本数量、划分协议、对照方法、指标或数值，因而无法核对优势幅度及公平比较条件。实验协议、消融及统计信息尚未验证；代码、模型权重与复现资源亦尚未验证。 平台推测（待验证）：可检验的迁移假设是，将掩码式扰动用于 EEG 自监督预训练，可能有助于学习可用于少标注任务的表征。原方法面向图像像素级语义任务，其所需数据规模与监督配置尚不明确；迁移时可借鉴掩码扰动思路，但需改造信号编码、时间或通道掩码策略及下游预测头。EEG 的低信噪比、跨被试差异、通道配置变化和小数据规模，可能使模型主要学习噪声或被试特征。一个小规模可证伪实验是：在固定 EEG 编码器、预训练数据和少标注预算下，对比掩码式与加性高斯噪声式自监督预训练，并采用严格的 Cross-subject 划分评估同一下游任务。该建议不代表已有 EEG 效果，相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的具体原因是其以掩码机制替代传统扩散中的加性高斯噪声，探索扩散式自监督表征学习与生成能力的关系；作者报告的少样本分割优势及其对 EEG 的可迁移性仍需分别核验。