行动前改变状态:面向欺骗性界面下 Web 智能体的前瞻性状态干预
Before Acting, Change the State: Prospective State Intervention for Web Agents under Deceptive Interfaces
基于摘要分析。本文研究 LLM-based Web agents 在欺骗性界面中执行用户任务时的安全问题,提出运行时防御方法 Veer:不改变基础智能体的任务规划,而是在拟执行动作可能产生未授权后果时,干预与任务相关的 Web 状态。 核心机制是区分动作的任务有效性与其在当前环境状态下产生的后果。既有防御主要通过阻止动作、提供指导或重新规划来约束智能体行为;Veer 则将 Web 状态本身作为控制目标。在修改实际环境前,它先构建通向安全任务相关状态的前瞻性干预轨迹,再结合运行时 grounding 与验证执行。摘要未说明未授权后果的判定规则、状态表示、轨迹构建算法及验证细节。 作者报告,在 TrickyArena 和 WebDecept 的三个评估设置中,Veer 均取得最高安全任务完成表现;在 TrickyArena-Single 与 TrickyArena-Multi 上,相比各自次优防御分别提升 15.9 和 25.0 个百分点,在 WebDecept 上将 dark-pattern success 降至 0.3%。作者报告,改进覆盖不同 dark-pattern 类型及全部 12 种智能体、模型与基准配置。上述指标分别涉及安全任务完成与欺骗模式成功,不能互换;具体基线、样本规模、评估设置及统计不确定性尚未验证。 作者报告的消融表明,主动状态干预带来最大增益,前瞻性 rollout 与时序证据进一步改善表现。复现时需核对干预权限、状态改变是否保留用户任务语义,以及运行时验证的可靠性、额外成本和失败处理;实验协议、消融及统计信息尚未验证。本文研究对象是 Web 智能体安全,而非状态空间模型或神经信号建模;现有材料未提供具体 EEG/BCI 对应机制,不据此生成迁移效果或复现实验建议。
值得核对 Veer 如何识别“任务有效但后果未授权”的动作,并通过前瞻性 Web 状态干预提升安全任务完成率;摘要提供了基准比较和消融结论,但不构成 EEG/BCI 有效性的证据。
来源:OpenReview · State space models · openreview.net