跳到正文
OpenReview · State space models· Jinyan Su; Changhong Zhao; Di Wang·· 2023-01-01精选AI 评分79

重新审视(非)欧几里得空间中的差分隐私随机凸优化

Differentially Private Stochastic Convex Optimization in (Non)-Euclidean Space Revisited

AI 导读

基于摘要分析。本文研究欧几里得空间及一般 ℓ_p^d 空间中的差分隐私随机凸优化(DP-SCO),针对有界约束、无约束及重尾数据三类情形提出算法与理论分析,主要贡献是刻画隐私保护下的期望超额总体风险。 在欧几里得空间的有界凸约束集上,作者分别研究凸损失和强凸损失。作者报告,其风险界通过约束集的 Gaussian width(高斯宽度)体现几何复杂度,而非直接依赖环境空间维度;这不意味着 Gaussian width 本身与维度无关。作者还报告,强凸情形的界在相差一个对数因子的意义下最优。具体风险界、隐私参数、样本量依赖及正则性假设尚未验证。 另两类问题分别是 ℓ_p^d 空间中的无约束 DP-SCO,以及该空间中有界约束集上的重尾数据 DP-SCO。作者声称为这些情形提出新算法并给出首次理论结果,但所提供摘要在适用 p 范围处截断,无法确认完整范围,亦无法确认重尾分布的矩条件、算法步骤及噪声机制。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务可表述为基于固定特征和有界参数集的凸风险最小化,约束集几何复杂度可能为隐私与效用权衡提供分析路径;重尾理论也可能与异常幅值或伪迹导致的特征分布有关,但二者不能直接等同。可复用部分是隐私凸优化框架,需改造并核对 EEG 特征、损失、约束集及隐私邻接定义,尤其要区分试次级与被试级隐私。低信噪比、跨被试分布差异和小样本可能使优化风险保证无法转化为解码收益。一个可检验的小实验是在固定 Cross-subject 划分、相同特征与凸分类损失下,对比满足同一隐私预算及邻接定义的算法,检验不同约束几何下的效用变化;具体算法和假设须先由全文确认。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其以约束集 Gaussian width 刻画隐私优化误差的理论条件,以及重尾数据情形的适用假设;这些结果尚不能直接视为 EEG 隐私学习的有效性证据。

来源:OpenReview · State space models · openreview.net