通过 k 层穿透表征进行坐标回归的对抗学习
Adversarial Learning for Coordinate Regression Through k-Layer Penetrating Representation
基于摘要分析。该研究针对含不可微操作的坐标回归模型难以使用端到端梯度生成对抗样本的问题,提出基于 k-layer penetrating representation 的攻击方法,支持非定向与定向攻击。原论文的主要研究对象是图像上的 2D 和 3D human pose estimation,而非 EEG 或 BCI。 核心机制是在第 k 层隐特征上,通过关系引导扰动其分布以影响最终坐标输出,从而不要求对完整模型进行端到端反向传播。输入端则利用像素与第 k 层隐特征之间的三种关联,精确选择少量像素进行修改。摘要未给出这些关联的定义、层位置选择方式、具体优化目标及不可微模块的位置,因此不能据此认定方法完全不需要梯度或属于黑盒攻击。 作者报告,在 2D 和 3D human pose estimation 实验中,该方法以更少的图像扰动取得更好的攻击表现。摘要未提供数据集、模型、数据划分、比较基线、攻击成功率、坐标误差或扰动预算,因而尚无法判断收益大小及适用边界;实验协议、消融及统计信息尚未验证。复现需要进一步核对隐特征访问权限、关联计算开销,以及不同攻击方法是否采用可比的扰动约束。 平台推测(待验证):若连续控制 BCI 的坐标解码流程包含阻断梯度的不可微操作,其“扰动中间表征以影响最终坐标”的思路可能用于鲁棒性评估,但这只是机制假设。可复用部分是隐层引导攻击框架;像素选择机制则需改造成适合 EEG 通道与时间点、且符合信号幅度约束的扰动选择。低信噪比、通道相关性与跨被试差异可能使所选关联不稳定。一个可检验的小实验是在固定被试内划分和相同扰动预算下,对比该策略与随机稀疏扰动对连续坐标解码误差的影响。已有 EEG 相关工作尚未检索确认。
值得核对其如何绕过坐标回归中的不可微操作,并通过输入—隐层关联实现稀疏扰动;作者报告的优势限于人体姿态估计,尚不能视为 EEG/BCI 鲁棒性的证据。
来源:OpenReview · Representation learning · openreview.net