跳到正文
OpenReview · Representation learning· Mengxi Jiang; Yulei Sui; Yunqi Lei; Xiaofei Xie; Cuihua Li; Yang Liu; Ivor W. Tsang·· 2024-01-01精选AI 评分74

通过 k 层穿透表征进行坐标回归的对抗学习

Adversarial Learning for Coordinate Regression Through $k$k-Layer Penetrating Representation

AI 导读

基于摘要分析。本文研究含不可微操作的坐标回归模型如何生成对抗样本,主要研究对象是图像输入下的 2D 与 3D 人体姿态估计,而非 EEG 或 BCI。作者提出 k-layer penetrating representation,通过干预中间层特征影响最终坐标输出,支持非定向与定向攻击,无需对整个模型进行端到端反向传播。 机制上,该方法借助关系引导扰动第 k 层的隐藏特征分布,并利用输入像素与该层隐藏特征之间的三种相关关系,选择少量输入像素进行修改。其核心区别在于以中间表征作为攻击作用点,同时限制被修改的像素范围;摘要未给出三种相关关系的定义、优化目标、层选择方式或具体梯度计算路径。 作者报告,在 2D 与 3D 人体姿态估计任务中,该方法以更少的对抗扰动获得更好的攻击表现。摘要未提供数据集、模型、对照方法、扰动度量及结果数值,因此尚不能核对优势幅度,也不能比较不同攻击预算下的效果。实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 解码流程也含阻断端到端梯度的不可微输出环节,其中间表征可能成为鲁棒性评估的替代作用点。可考虑复用中间特征引导思路,但需将像素选择改为符合 EEG 通道—时间结构及信号约束的扰动选择;低信噪比、跨被试特征差异和小数据条件可能使相关关系不稳定。一个可证伪的小实验是在固定被试内划分与相同扰动预算下,比较中间表征引导与随机位置扰动对解码性能的影响,并检查波形合理性。上述用途仅是迁移假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其绕过不可微输出环节、利用中间表征构造稀疏对抗扰动的机制,但性能优势与扰动约束仍需结合全文实验协议核验。

来源:OpenReview · Representation learning · openreview.net