跳到正文

算法、任务与模态

Diffusion 最新动态

Diffusion 研究索引;按可核对的标签归档,不以热度评价质量。

144 条精选近 30 天 99 条共收录 171 条

更新

精选归档 · 第 8 页

4月25日周二第 141–144 条
  1. OpenReview · Representation learning76

    基于扩散的表征学习

    基于摘要分析。本文研究如何使扩散生成模型在无监督信号下学习可用于下游任务的表征,核心贡献是重新构造 denoising score matching(去噪得分匹配)目标,使表征编码去噪所需的信息,并允许人为控制其中保留的细节程度。原论文主要研究通用表征学习与图像分类,并非 EEG 或 BCI 方法。 机制上,作者将连续时间扩散过程表述为随机微分方程(SDE),并以可视为多尺度去噪自编码器的去噪得分匹配为基础扩展表征学习。与 GANs、VAEs 直接把潜在编码映射为数据样本的方式不同,该方法围绕去噪所需信息构造表征。摘要未提供目标函数的具体形式、编码器结构或细节控制的实现方式,尚不能确定其训练与推理成本。 作者报告,采用同一思路学习的无限维潜在编码在半监督图像分类中相对当时的先进模型取得改善,但摘要未给出数据集、标签比例、划分、对照名称或指标数值。作者还通过下游任务比较了所学表征与自编码器、对比学习系统的质量,并报告更换扩散模型的 SDE 表述后,下游收益仍然存在。上述结果的实验协议、消融及统计信息尚未验证;无限维编码的实际计算表示也需查阅全文。 平台推测(待验证):若去噪目标能够保留任务相关信号而非仅重建噪声,这一机制可能对应 EEG 中无标签表征学习及细节保留与噪声抑制之间的矛盾。可复用的是多尺度去噪与表征目标的设计思路,需改造的是适配 EEG 时间与通道结构的编码方式及扰动过程。低信噪比可能使表征偏向伪迹,跨被试和通道配置差异可能削弱迁移,小数据条件下的训练稳定性与所需规模未知。一个可检验的假设是:在固定 EEG 数据划分、无标签预训练数据和下游标签预算下,改变细节控制设置是否改善冻结表征的线性分类表现;可与去噪自编码器和对比学习基线比较,并单独评估 Cross-subject 泛化。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是其通过重构 denoising score matching 目标学习无监督表征,并控制表征编码的细节程度;这一机制及不同 SDE 下的下游表现值得核对,但其 EEG 适用性尚未验证。

1月1日周日
  1. OpenReview · State space models70

    基于结构化状态空间模型的扩散式条件 ECG 生成

    基于摘要分析(仅提供 Highlights,未取得论文全文)。本研究面向心电图(ECG)合成,使用结构化状态空间模型支持扩散生成,并以 71 种 ECG 描述作为条件,目标是生成符合指定心电特征的信号;研究对象不是 EEG 或 BCI。 方法层面,材料明确了条件生成、扩散模型与结构化状态空间模型的组合,但尚未说明条件编码方式、状态空间模块在生成模型中的位置、训练目标及采样流程。71 种 ECG 描述的定义、组合方式与标注来源也尚未验证。 作者报告,所提模型在多种指标上优于 GAN-based models,并称其达到当前最优水平;但所用数据集、数据划分、对照模型、指标名称及具体数值未在材料中提供,因而无法判断优势幅度或比较条件。作者还报告,类别插值与 ECG 领域知识一致,心脏科医生参与的图灵测试支持生成样本具有较高质量;评估人数、盲法、判断任务与统计信息尚未验证。 阅读与复现时需核对条件一致性、信号质量的评价方法,以及训练数据和生成样本的关系。实验协议、消融及统计信息尚未验证。现有材料不足以建立具体的 EEG/BCI 迁移机制,因此不将 ECG 生成结果视为 BCI 有效性证据;已有 EEG 相关工作尚未检索确认。

    阅读价值:值得关注其以结构化状态空间模型支持条件扩散生成 ECG 的方法组合,以及类别插值与心脏科医生评估提供的验证线索,但性能优势及评估协议尚需全文核对。

6月14日周二
  1. OpenReview · Representation learning77

    基于扩散的表征学习

    基于摘要分析。本文研究如何让扩散生成模型在不使用监督信号的情况下学习表征,核心贡献是扩展 denoising score matching(去噪得分匹配)框架,使表征编码去噪所需的信息,而非像 GANs 和 VAEs 那样直接将潜在编码映射为数据样本。原论文主要面向通用表征学习及图像下游任务,并非 EEG 或 BCI 研究。 机制方面,摘要将连续时间随机微分方程描述的扩散模型与多尺度去噪自编码器联系起来,并提出新的去噪得分匹配目标。作者指出,这一表征学习方式允许手动控制表征所编码的细节层级;但具体目标公式、控制变量、编码结构及训练与推理流程尚未验证。作者还提出学习无限维潜在编码,摘要未说明其具体参数化及计算实现,不能据此推断模型规模。 结果方面,作者报告,该方法在半监督图像分类中相较当时的先进模型取得改进,并通过下游任务表现比较扩散得分匹配、自编码器和对比学习系统的表征质量。摘要未提供数据集、标注比例、数据划分、对照模型、评价指标或数值,因此无法判断改进幅度及不同方法的可比性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若不同噪声尺度下的去噪信息能够形成可控粒度的表征,该机制可能为 EEG 自监督学习提供候选路径,但图像结果不构成 BCI 有效性的证据。可考虑复用去噪得分匹配思想,改造适配多通道时间序列的编码器与扰动过程;低信噪比可能使模型编码伪迹,被试差异、通道布局变化及小数据规模也可能削弱表征稳定性。一个可检验的小实验是在固定 EEG 数据划分与相同标注预算下,对比该目标、自编码器和对比学习表征的冻结编码器分类表现,并检验细节控制是否改变任务信息与伪迹信息的保留程度。该方案仅为迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的具体原因是其通过改写 denoising score matching 目标学习去噪所需的表征,并讨论表征细节层级的可控性;其半监督图像分类收益及向 EEG 迁移的可行性尚需核对与验证。

1月1日周六
  1. OpenReview · Representation learning75

    使用扩散模型进行表征学习

    基于摘要分析。本文研究图像扩散模型的语义表征学习:针对 DMs 及潜空间扩散模型 LDMs 的扩散过程逐步破坏潜变量信息、缺乏语义明确表征空间的问题,提出 LRDM 框架,将独立编码器从干净图像提取的表征作为 LDM 的条件,并联合训练扩散模型与表征编码器。 核心机制是让表征学习直接服务于生成去噪过程,而非仅使用预训练自编码器的潜空间。作者还引入可处理的表征先验,以便从表征分布高效采样,在不训练额外模型的情况下实现无条件图像生成。摘要未给出先验形式、损失函数、条件注入方式及训练细节,这些内容尚未验证。 作者报告,在摘要所述图像生成评估中,采用 image-parameterized LDMs 可获得有竞争力的生成结果;LRDMs 能学习具有语义意义的表征,并支持忠实的图像重建与语义插值。摘要未提供数据集、划分、对照基线、指标或数值,不能据此量化优势;实验协议、消融及统计信息尚未验证。摘要提供了实现仓库,但代码完整性与复现条件尚未核对。 平台推测(待验证):该机制提供的迁移假设是,生成去噪与条件表征的联合学习可能帮助 EEG 提取可重建的信号结构,但图像语义并不等于 EEG 的任务相关信息。原方法依赖预训练自编码器、干净输入及表征先验;是否需要任务标签、训练规模如何,摘要未说明。可尝试复用联合训练与表征先验的思路,但需改造时序编码器、潜空间自编码器和条件注入模块。低信噪比、跨被试差异、通道配置变化及小数据可能使表征偏向伪迹或被试身份,而非任务信息。 一个可检验的小实验是假设检验:在固定 EEG 数据划分、相同编码器与训练预算下,对比联合条件去噪表征和仅自编码器表征,以冻结表征的线性分类及重建质量分别评估任务信息与重建能力,并独立报告被试内和跨被试结果。此建议不是已验证的 BCI 效果;已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其联合学习表征与生成去噪的机制,以及表征先验如何支持无需额外模型的无条件采样,但摘要尚不足以判断表征质量及向 EEG 迁移的有效性。