经验去噪器的隐私核算
Privacy Accounting for Empirical Denoisers
基于摘要分析。本文研究扩散模型在采样过程本身产生的隐私损失,而非仅分析训练阶段的差分隐私保证。作者构造经过裁剪、可进行隐私核算的经验去噪器,作为无需训练的 Bayes 最优去噪器估计量,以显式计算单个训练样本对每步去噪的敏感度,并将逐步去噪纳入高斯机制的核算框架。 机制与保证:当每条训练样本参与每一步去噪时,作者采用 Gaussian DP 进行核算;当每个生成样本仅使用一个随机子采样的训练数据块时,则使用 f-DP 权衡函数。作者报告,文中各项 (ε, δ) 保证均为隐私损失分布核算器给出的可认证上界;基于累积量的 Edgeworth 近似仅作为快速诊断工具,并分析其适用范围及可能低估隐私损失的情形。摘要未给出裁剪规则、噪声标定和邻接数据集定义,相关保证的具体条件尚未验证。 作者报告的轨迹分析显示,隐私损失在语义内容形成的关键窗口附近陡增。据此,作者提出混合采样:在经验去噪器仍可忠实近似神经去噪器的内容形成阶段使用私有经验去噪器,之后切换至公开神经去噪器完成细化。作者报告在 CIFAR-10 和 CelebA-64 上的结果支持采样时子采样、停止时刻和混合去噪设计会影响隐私,但摘要未提供具体隐私预算、生成质量指标及对照数值。实验协议、消融及统计信息尚未验证,经验去噪器的认证结论也不能直接视为任意神经扩散模型的保证。 平台推测(待验证):其与 EEG 的潜在对应是生成或发布合成 EEG 时的训练样本隐私核算,而非 BCI 解码性能提升。可复用部分是敏感度分析与隐私损失核算;需重新设计适配 EEG 时序、通道结构的去噪估计,并明确以片段还是被试定义隐私单位。低信噪比、被试差异和小样本可能削弱经验去噪器的保真度。可先在固定 EEG 数据划分与隐私单位下,对比不同停止时刻的认证隐私上界及合成信号保真度,检验二者是否存在可用折中;已有 EEG 相关工作尚未检索确认。
值得核对其如何将经验去噪器的逐步敏感度转化为采样期隐私上界,并区分可认证的隐私核算与可能低估隐私损失的快速近似;这些保证尚不能直接推广至任意神经去噪器。
来源:arXiv · 多模态与生成机制 · arxiv.org