跳到正文
OpenReview · State space models· Hieu M. Vu; Tan Minh Nguyen·· 2025-09-25精选AI 评分74

Angular Steering:通过激活空间旋转控制行为

Angular Steering: Behavior Control via Rotation in Activation Space

AI 导读

基于摘要分析。本文研究如何调控大语言模型的特定行为,同时保持其通用能力,提出通过旋转模型激活实现行为干预的 Angular Steering,并以拒绝行为调控为用例;研究对象不是 EEG 或 BCI。 核心机制是在固定二维子空间内,将激活朝目标行为方向或背离该方向旋转,以连续调节拒绝与遵从等行为。作者认为,现有向量加法与方向消融方法受激活和特征方向所定义的二维子空间约束,对参数选择敏感,也可能扰动非目标特征。Angular Steering 将这些操作纳入统一的几何旋转框架;其变体 Adaptive Angular Steering 仅旋转与目标特征对齐的激活,旨在提高干预的选择性、稳定性与输出连贯性。摘要未说明目标方向如何提取、对齐如何判定,以及具体干预位置与参数设定。 作者报告,在多个模型家族及不同规模模型上的实验中,该方法能够稳健控制行为,并保持一般语言建模性能,相较既有方法具有更宽的稳定调节范围。摘要未提供模型名称、评估数据、划分、具体指标、效果数值或对照设置,因此尚不能量化其收益;实验协议、消融及统计信息尚未验证。 该机制可供研究表征干预与非目标特征保持时参考,但现有材料不支持其 EEG/BCI 有效性,也未建立语言模型行为方向与神经信号任务表征之间的具体对应关系,不据此提出迁移实验;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其如何用几何旋转统一向量加法与正交化干预,以及选择性旋转能否降低非目标行为扰动;摘要报告的稳定性与通用能力保持仍需全文实验验证。

来源:OpenReview · State space models · openreview.net