Direct Hidden-State Alignment：映射与控制 LLMs 中的偏好表达

基于摘要分析。研究对象是 LLMs 的偏好表达：当基础模型已能生成目标行为，却不能可靠地表现该行为时，作者将问题部分归因于推理期间内部计算的竞争，而非仅仅缺少能力。论文提出 Residual Competition Maps（RCMs）分析偏好相关计算，并以 Direct Hidden-State Alignment（DHSA）直接干预推理时的隐状态。 核心机制是：Transformer 的多个组件向同一残差流写入信息，最终共同影响下一 token 分布，因此支持目标偏好的计算可能被其他计算压过。RCMs 通过测量相对于指定偏好的带符号因果效应，映射模型原生残差计算。作者报告，在所考察的偏好领域中，竞争的普遍程度随任务变化，各组件对目标偏好的作用不同，且存在单个原生组件干预即可逆转偏好结果的情形。作者还报告，DPO 会显著重组这些效应，并可削弱对抗目标偏好的效应，但后者仍可能保留；具体测量与干预定义尚未验证。 DHSA 将推理时隐状态而非基础模型权重作为直接适应空间。其实现 Causal Activation State Transition（CAST）利用 RCMs 提供的因果定位，在少量偏好相关接口实施局部状态干预，同时冻结基础模型。作者报告，CAST 使用 256–16,384 个控制器参数，在三个偏好领域达到可与 DPO 竞争的表现，也可补充 DPO 训练后的模型，并能在推理时启用或移除。摘要未提供领域名称、模型规模、数据划分、指标或对照配置，因此不能将“可与 DPO 竞争”解释为全面优于 DPO；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其潜在 EEG 对应点是冻结预训练 Transformer 后，通过局部隐状态控制适应任务或被试差异，而非直接迁移语言偏好控制。可复用的是因果定位与局部干预思路；需重新定义 EEG 任务目标、组件效应测量及控制器监督。该假设依赖可干预的残差结构与可靠任务标签，低信噪比、通道差异和小样本可能导致定位不稳定或控制器过拟合。一个可检验的小实验是在固定 Cross-subject 划分下，对同一冻结 EEG 模型比较无干预、随机接口干预和因果定位接口干预，使用相同标注预算与任务指标评估未见被试表现。已有 EEG 相关工作尚未检索确认。