跳到正文
只看学习与优化#隐私与安全
10月8日周四
  1. arXiv · 学习目标与优化79

    BRACE：采用 LSR 能量的稠密联想记忆的差分隐私

    基于摘要分析。本文研究稠密联想记忆（Dense Associative Memory，DAM）检索动态的差分隐私保护，针对 log-sum-ReLU（LSR）能量下有限支撑检索动态带来的挑战，提出 Boundary-Responsive Adaptive Correction Evolution（BRACE），并分析隐私检索误差与不确定性。 核心机制是自适应修正对边界敏感的扰动，控制其沿检索轨迹产生的累积影响。DAM 是与注意力机制密切相关的能量式记忆检索框架，但摘要未给出 LSR 能量的具体表达、隐私邻接关系、噪声注入方式、修正规则或隐私预算组合方式，尚不能判断该保证具体保护何种记录及其适用边界。 理论方面，作者报告推导了不依赖维度的终点与完整轨迹检索误差率，并据此证明方法具有 minimax 最优性；其误差率对逆温度具有最优依赖，在检索时域增长的情形下，对检索时域也具有最优依赖。作者还报告建立中心极限定理，刻画私有检索的渐近分布及隐私机制引入的额外变异，为不确定性量化提供依据。上述结论的参数范围、渐近条件及上下界形式需查阅全文核对。 数值实验将 BRACE 与基线差分隐私方法比较，并评估检索准确性；摘要未提供具体数据、指标定义或结果数值，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 表征被组织为联想记忆，且能够明确隐私保护单位，边界扰动控制可能用于研究私有记忆检索。可复用候选是检索扰动修正与不确定性分析框架；需改造 EEG 表征、记忆构建及隐私邻接定义。低信噪比、跨被试差异和小样本可能使检索误差与隐私噪声叠加。一个可检验的小实验是在固定 EEG 表征与记忆库设置下，以相同隐私预算比较 BRACE 与基线私有检索的误差及区间覆盖率；这是假设性验证路径，并非本文已报告的 BCI 结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 BRACE 如何控制 LSR-DAM 检索中边界敏感扰动的累积效应，以及其 minimax 最优误差界和隐私不确定性量化所依赖的假设。

10月3日周六
  1. arXiv · 多模态与生成机制75

    通过扩散模型的 PAC-private 适配保护图像合成中的敏感数据

    基于摘要分析。该研究针对扩散模型在敏感数据上训练或适配后仍可能遭受重构攻击的问题，提出 PAC-private 适配框架：先学习紧凑的适配组件，再在优化完成后一次性加入经校准的噪声，以降低隐私保护对生成效用的影响。 机制上，摘要将重构隐私（RP）描述为限制攻击者对敏感数据的后验分布相对于先验的变化；差分隐私（DP）则通过约束单条记录变化对输出的影响提供保证。作者认为，DP 与 RP 的间接联系是效用损失的重要来源，而 PAC-privacy 直接约束相对于先验的后验优势，更直接对应 RP。具体方法使用 LoRA 或 Textual Inversion 学习数据依赖的紧凑扩散模型组件，再根据机制重复输出的协方差校准各向异性高斯噪声。不同于 DP-SGD 在训练中反复裁剪梯度并注入噪声，该方法仅在优化后扰动已学习组件一次；作者据此强调可避免梯度更新之间的隐私组合。 作者在少样本概念个性化与全数据集图像合成任务上报告：在达到相同重构隐私的比较前提下，所提方法比 DP 更好地保留主体身份、生成质量及下游分类 Accuracy。摘要未提供数据集名称、样本规模、具体分数、攻击者先验与能力、隐私参数或基线配置，实验协议、消融及统计信息尚未验证。复现时需重点核对重复机制输出的采样方式、协方差估计成本、噪声校准条件，以及两类方法的 RP 等价性如何建立。 平台推测（待验证）：若 EEG 生成模型也通过紧凑适配组件学习敏感被试数据，可假设借用“适配后一次性扰动”的路径，但需要改造生成骨干、条件输入及重构攻击评估。低信噪比、小样本和被试差异可能使协方差估计不稳定，或使隐私噪声破坏任务相关特征。可先在固定 EEG 数据划分与攻击协议下，对比未保护适配、PAC-private 适配和 DP 适配，联合评估重构风险与下游分类 Accuracy；图像领域结果不构成 EEG/BCI 有效性证据，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其如何将重构隐私目标转化为低维适配组件的一次性噪声校准，以及与 DP 方法比较时重构隐私水平是否按一致协议评估。

  2. arXiv · 多模态与生成机制80

    FADE：基于帧感知 Diffusion Transformer 的多概念擦除与视频遗忘

    基于摘要分析。该研究针对 Text-to-video（T2V）扩散模型的概念擦除问题，提出 Frame-Aware Diffusion Erasure（FADE），旨在同时移除多个指定概念并保留非目标生成行为。其关注的关键问题是：忽略帧差异的抑制可能让已擦除概念在个别帧中重新出现，而视频片段级平均指标可能掩盖这种残留。 机制上，FADE 先对 key/value 执行联合闭式编辑以抑制全部目标概念，再训练各概念专属的帧感知低秩适配器，通过帧索引与去噪时间步控制适配强度，清除逐帧残留。训练每个适配器时，将其他目标概念的提示词作为困难负例，以分离不同适配器的概念特异性成分；推理时由基于相似度的软路由器根据提示词组合适配器。具体编辑公式、损失、路由相似度定义及训练成本尚未验证。 作者报告，在单个 Wan2.1-T2V-1.3B 骨干上同时擦除涵盖物体、艺术风格与裸露内容的 16 个概念后，物体基准的残留 Accuracy 为 4.9%，八种基线中最强者为 15.5%；VBench 平均值与未编辑模型的差异保持在 0.9% 以内。这里的残留 Accuracy 用于衡量擦除后目标概念的残留，不能视为一般任务分类性能；摘要未说明 VBench 差异的具体计算口径。作者还报告，VLM 评判与盲法人类研究下方法排名不变，相对最强基线的优势延续至多目标组合提示词、同时擦除 30 个名人身份，以及 Wan2.1-T2V-14B、CogVideoX-2B 和 HunyuanVideo-1.5。 复现时应重点核对逐帧与片段级指标的关系、目标及非目标提示词划分、残留判定阈值、基线配置，以及闭式编辑、帧感知门控、困难负例和软路由各自的贡献。实验协议、消融及统计信息尚未验证。该研究的直接证据限于视频生成模型遗忘，不能据此推导 EEG/BCI 中的身份信息去除或隐私保护效果；相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其逐帧概念再激活评估与多概念适配器隔离机制：作者报告在同一视频生成骨干上兼顾概念擦除和非目标生成质量，但具体评估协议与统计可靠性尚未验证。