用于分类和检测针对说话人识别与语音识别系统的对抗攻击的表示学习

基于摘要分析。本文研究针对说话人识别与语音识别系统的音频对抗攻击，利用表示学习按攻击算法、威胁模型或信号与对抗噪声比对攻击进行分类与检测，并考察攻击表示在不同任务及未见攻击算法上的泛化。 作者报告，在所评估的文献常见攻击分类设置中，Accuracy 最高可达 90%；摘要未给出该数值对应的具体分类目标、数据划分和对照基线。作者还报告，为说话人辨识攻击分类训练的表示，可用于说话人验证与语音识别系统的攻击分类，但具体迁移协议及性能尚未验证。 研究进一步设置了攻击验证任务，即判断两段语音是否包含相同攻击。作者报告，模型对表示训练阶段未包含的攻击算法泛化不佳；随后评估未知攻击检测，报告等错误率（EER）约为 19%。这一结果属于未知攻击检测，不能与前述已知攻击分类 Accuracy 直接比较，也不等同于已消除攻击对识别系统的影响。 平台推测（待验证）：攻击表示学习可作为研究 EEG 对抗扰动检测的候选思路，对应的问题是区分扰动特征与正常信号变化。原方法依赖音频攻击样本及攻击属性监督，迁移时需改造输入表示和特征提取模块，并核对其是否依赖音频特有结构。EEG 的低信噪比、跨被试与通道差异，以及有限攻击样本，可能使模型将生理差异误判为攻击或记住已知算法。可检验的小实验是：在固定 EEG 解码任务与被试划分下，留出一种攻击算法，仅用其余攻击训练检测器，分别评估已知与未知攻击检测，并报告正常 EEG 的误报情况。已有 EEG 相关工作尚未检索确认。 网络结构、损失函数、数据集、样本规模、实验协议、消融及统计信息尚未验证。