跳到正文
OpenReview · State space models· Hieu M. Vu; Tan Minh Nguyen·· 2025-09-30精选AI 评分75

Angular Steering:通过激活空间旋转实现行为控制

Angular Steering: Behavior Control via Rotation in Activation Space

AI 导读

基于摘要分析。该研究针对大语言模型中特定行为控制与通用能力保持之间的矛盾,提出 Angular Steering:在固定二维子空间内旋转激活,使其朝向或远离目标行为方向,以连续调节模型行为。研究对象是语言模型的拒绝、遵从及情绪行为,并非 EEG 解码或 BCI 控制。 机制上,作者将现有激活向量加法与方向消融置于几何视角下分析,指出这些干预受激活与特征方向所定义的二维子空间约束,可能对参数选择敏感,并通过激活空间中的交互影响无关特征。Angular Steering 以旋转方式进行调节;其变体 Adaptive Angular Steering 仅旋转与目标特征对齐的激活,旨在提高干预的选择性、稳定性与输出连贯性。作者还提出,该框架能够统一描述既有加法与正交化技术。 作者报告,在多个模型家族与规模上的拒绝及情绪调节实验中,该方法实现了稳健的行为控制,并保持通用语言建模性能。摘要未提供具体模型、数据集、评估划分、对照配置或量化指标,因此尚不能判断优势幅度及适用边界;实验协议、消融及统计信息尚未验证。复现时需核对目标特征方向的构造、干预位置、旋转参数及自适应选择规则,并分别评估目标行为变化与非目标能力保持。摘要声明已公开代码与研究产物,但其内容及可复现性尚未验证。材料未提供 EEG/BCI 实验,不能据此推断其在神经信号任务中有效。

阅读价值

值得核对其以几何旋转统一激活加法与正交化干预的机制,以及行为控制强度与通用语言能力保持之间的权衡;摘要所述稳定性优势仍需结合全文实验验证。

来源:OpenReview · State space models · openreview.net