九个情绪锚点恢复效价方向:无标签跨模态迁移与尺度感知引导
Nine Emotion Anchors Recover a Valence Direction: No-Label Cross-Modal Transport and Scale-Aware Steering
基于摘要分析。研究以语言模型内部的情绪效价(valence,即正面或负面程度)表征为主要对象,利用九个通用情绪类别锚点恢复效价轴(V-axis),并检验其读取、因果干预、跨编码器迁移能力及边界;EEG 在其中是检验表征共享性的边界案例,而非已验证的 BCI 应用。 方法为每类生成约 50 段情绪锚定文本,将表征平均为九个质心,再取第一主成分。作者报告,该过程无需下游情感标签;按其监督事件口径,使用 18 次监督事件,对照监督式 SST-2 探针的 6,920 次,约减少 384 倍。在匹配预算下,使用相同锚点的 difference-of-means、CAV 和 LDA 读取器匹配或超过主成分方案,并在九个模型中的八个上超过由 500 个随机方向构成的零假设参照,提示信号主要来自锚点而非特定读取器。 作者报告,移除提示中的显式情绪词后,新旧轴余弦相似度为 0.98;该轴在 SST-2、IMDB、Rotten-Tomatoes、Yelp 四个互不重叠的情感语料上均超过零假设参照。在未接受语言训练的自监督视觉编码器 DINOv2 中也可读出效价,AUC 为 0.790,CLIP 对照为 0.972;摘要未提供具体视觉评估数据及划分。 可读取不等于可自由改写。作者报告,移除单一轴后重新训练的探针仍能读取效价,相关信息分布于 4–36 维冗余子空间;但推理时实施 directional ablation,会在九个模型家族中的六个上降低模型自身的情感输出,范数匹配的随机方向消融影响约为零。基于残差流范数的规律预测留出模型的可引导性,留一模型评估 R² 为 0.88。作者还定义 donor→receiver 映射,在三个模型对、全部六个非对角迁移单元上获得超过随机映射参照的结果;映射细节及目标标签隔离方式尚未验证。 边界方面,作者报告该方案对 AxBench Concept-500 的类别概念及唤醒度接近机会水平;EEG 效价虽可解码,其几何结构却不与机器编码器共享,因此不能视为第四种共享模态。所测试的几何“可接受性”判据也未能预测留出条件下的成功。EEG 数据集、被试与通道配置、被试内或跨被试协议,以及完整消融和统计信息尚未验证;尚未检索确认相关 EEG 工作,不据此推断 BCI 迁移有效性。
值得阅读的是其对情绪效价表征的可读性、因果可干预性与跨编码器迁移边界的区分,尤其是作者报告 EEG 效价可解码但不共享机器编码器几何结构,不能据此认定该方法已适用于 EEG/BCI。
来源:OpenReview · EEG · openreview.net