输入损失曲率能否预警扩散模型记忆化

基于摘要分析。本文研究扩散模型为何记忆训练数据，分别考察训练过程中模型何时开始记忆化，以及单个样本被模型记忆的倾向，提出以输入损失曲率作为无需生成采样的代理指标，并通过反事实定义建立单样本记忆化与局部损失几何之间的理论联系。 核心指标是训练损失关于输入的 Hessian 的 Frobenius 范数。对于模型层面，作者报告，沿训练过程跟踪训练样本与验证样本的平均输入曲率，可以识别模型何时可能开始复现训练数据。但摘要明确指出，这一指标不足以衡量单个样本被记忆的可能性，不能直接把整体曲率趋势当作样本级判据。 对于样本层面，作者将 Feldman（2019）在监督学习中的反事实记忆化概念扩展至扩散模型。作者报告证明，反事实记忆化受到留一法模型的输入曲率控制，由此连接样本局部损失景观与其生成可能性；并通过若干实验验证所推导的界。摘要未给出反事实量的具体定义、界的形式与假设，也未说明曲率估计方法、留一法模型的计算成本及相对于生成采样的实际开销。 数据集、模型规模、训练与验证划分、记忆化评估标准、对照指标及定量结果均尚未验证，实验协议、消融及统计信息亦尚未验证。该研究的主要对象是扩散模型的训练数据记忆化，而非 EEG 解码或 BCI；当前材料不足以支持其在神经信号生成或隐私评估中的有效性，已有 EEG 相关工作尚未检索确认。