跳到正文
arXiv · 多模态与生成机制· Yuling Jiao; Lican Kang; Jerry Zhijian Yang; Cheng Yuan; Ruizhe Zhang·· 1 天前精选AI 评分76

通过高斯替代逆向动力学实现退火 Lévy 扩散

Annealed Lévy Diffusion via Gaussian Surrogate Reverse Dynamics

AI 导读

基于摘要分析。本文研究通用生成建模中的噪声设计,提出 Annealed Lévy Diffusion(ALD),通过随时间变化的稳定性指数 α(t),结合重尾噪声的探索能力与高斯噪声的精细生成能力。其主要贡献是将稳定分布噪声表示为标量 Gaussian scale mixture,从而沿用标准高斯噪声预测训练,仅增加一个尺度输入。 机制上,相较于去噪过程中保持固定尾指数的 Denoising Lévy Probabilistic Models(DLPM),ALD 调整噪声尾部特性。作者研究两种采样过程:ALD-renoise 先估计干净样本,再注入新的边缘噪声;ALD-posterior 则利用累积条件方差和 Gaussian bridge 更新,保留相邻状态之间的依赖。两种采样器通过不同标量输入复用同一已训练预测器。具体 α(t) 调度、尺度分布与条件方差计算方式需查阅全文。 评估覆盖四个二维基准和一个不平衡九模态混合分布,并在 clipped Holtsmark 数据上考察训练效率及预测扰动的影响;另包含 MNIST、CelebA64 生成和 CIFAR-10LT 数据增强实验。作者报告,ALD 在所评估的轻尾与流形结构目标上保留了局部几何。摘要未提供量化指标、数据划分或对照结果,尚不能判断相对 DLPM 或高斯扩散的收益幅度;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将该机制用于 EEG 生成或类别不平衡增强,可检验的假设是时变尾部扰动能在覆盖少数类变化与保留局部信号结构之间取得平衡。可复用噪声表示与采样机制,但需改造时序预测器和条件输入;低信噪比、小样本、跨被试及通道差异可能使重尾扰动放大伪迹,而非增加有效生理变化。一个小规模检验是在固定被试内划分、仅用训练集生成增强样本的条件下,与高斯扩散及固定尾指数版本比较少数类识别和频谱保真度。上述并非原论文已验证结果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是以标量 Gaussian scale mixture 实现时变重尾扰动,并让同一噪声预测器支持两类采样动力学的机制;摘要未给出定量优势,其对 EEG/BCI 的价值尚未验证。

来源:arXiv · 多模态与生成机制 · arxiv.org