通过表征空间去噪实现快速随机平滑
Fast Randomized Smoothing via Representation Space Denoising
基于摘要分析。本文研究图像分类随机平滑中的认证鲁棒性与推理成本问题,提出 Representation-space Denoised Smoothing(RepDS):用预训练视觉编码器的特征空间去噪替代扩散模型的像素空间重建,直接恢复用于分类的表征,从而减少每次 Monte Carlo 采样所需的计算。 核心机制:Diffusion Denoised Smoothing(DDS)通常对每个加噪样本执行扩散去噪,再由独立预训练模型分类。RepDS 则调整视觉编码器,使高斯噪声污染图像的表征与对应干净图像的表征对齐。推理时,每次平滑采样仅需一次非生成式前向传播,避免像素重建及对重建图像的额外编码。摘要未给出具体对齐损失、编码器调整范围或训练规模。 作者报告,RepDS 在 ImageNet 的全部已报告认证半径上取得其所称的最先进认证准确率。在半径 1.5 的评估中,RepDS-H+ 的 certified accuracy 为 64.2%,骨干匹配的 DDS 重跑结果为 54.6%;在相同计时协议下,RepDS-H+ 约快 4 倍。作者另报告,相比 DensePure,其单次采样推理耗时降低超过三个数量级。半径所用范数、数据划分、认证置信水平、Monte Carlo 样本量、硬件及计时细节尚未验证,因此不能据此推定总认证成本或跨协议优势;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,EEG 分类的噪声鲁棒训练或许也能直接约束任务表征,而不必重建信号。该路径依赖可用编码器、干净与扰动样本的对应关系,以及适合目标信号的噪声假设;需改造输入编码和扰动模型,表征对齐思路可保留。低信噪比、跨被试差异、通道变化和小数据可能使对齐抹去任务相关信息,图像领域有效不等于 BCI 有效。一个可证伪的小实验是在固定 EEG 数据划分、编码器与扰动预算下,对比表征对齐、信号重建和不去噪基线的分类表现及单次推理耗时,再评估认证假设是否适用;已有 EEG 相关工作尚未检索确认。
值得核对其以表征去噪替代像素重建的效率机制,以及骨干匹配 DDS 对照下认证准确率与推理耗时的权衡;摘要中的优势尚需结合完整认证与计时协议验证。
来源:OpenReview · State space models · openreview.net