跳到正文
OpenReview · State space models· Jacopo Cortellazzi; Ilias Tsingenopoulos; Branislav Bosanský; Simone Aonzo; Davy Preuveneers; Wouter Joosen; Fabio Pierazzi; Lorenzo Cavallaro·· 2024-01-01精选AI 评分77

如何训练你的杀毒软件:通过问题空间进行基于强化学习的鲁棒性加固

How to Train your Antivirus: RL-based Hardening through the Problem-Space

AI 导读

基于摘要分析。该研究针对基于动态分析报告的机器学习恶意软件检测器易受规避攻击与虚假相关影响的问题,提出通过强化学习在问题空间中构造可行的对抗样本,为检测模型的对抗训练提供支持。主要研究对象是某知名商业杀毒软件公司检测流水线采用的一种机器学习架构,而非 EEG 或 BCI 模型。 核心机制是直接修改实际程序,且将操作限制在问题空间中可行的修改范围内。其出发点是:特征空间中的梯度扰动往往无法逆向映射为可行程序,因此常规对抗训练不能直接套用。作者提出的强化学习方法旨在绕开这一逆映射问题,并支持针对特定攻击能力集合建立模型鲁棒性的理论保证。摘要未说明状态、动作、奖励、可行性约束的具体定义,也未给出理论保证的完整假设与适用范围。 作者报告,在所考察的攻击与对抗重训练设置下,经过少量重训练迭代后,Attack Success Rate 可稳定达到 0%。该结果仅对应其评估中的攻击能力与协议,不能解释为对任意恶意软件或未知攻击均具备鲁棒性;“少量”的具体迭代次数、数据划分、攻击预算、对照基线、消融及统计信息尚未验证。 摘要未提供与 EEG 信号或 BCI 任务之间的具体机制对应,因此不将该结果外推为 BCI 防御效果,也不据此提出迁移实验。复现需进一步核对程序修改操作、恶意功能保持条件、检测器访问权限、强化学习训练配置,以及重训练和攻击评估流程。

阅读价值

值得关注其通过问题空间中的可行程序修改构造对抗样本、支持防御性重训练的机制,但鲁棒性结论受攻击能力集合约束,具体实验协议仍需全文核对。

来源:OpenReview · State space models · openreview.net