稀疏自编码器中的表征重分配

基于摘要分析。该研究针对语言模型中保留原始请求的提示变换仍会引起稀疏自编码器（SAE）特征活动重分配的问题，提出 Redistribution Sensitivity Score（RSS），识别幅度较大且方向一致、反复出现的特征响应，并分析这些变化何时影响下游固定线性读出。 方法上，RSS 不仅追踪孤立特征或整体表征距离，还选择具有重复响应的特征支持集，并在未参与选择的提示变体上检验其持续性。作者进一步通过精确贡献分解，将响应幅度、读出权重、方向对齐和未变换输入的决策间隔（clean margin）区分开，说明持续的表征重分配并不必然导致决策失效。摘要未提供 RSS 的具体公式、支持集选择阈值及变换构造细节。 作者报告，在覆盖八个语言模型的 27 个预训练 SAE 上，受控提示变换产生了可重复、且在留出变体上持续存在的重分配模式。在两个冻结的安全读出上，将 RSS 支持集侵蚀与完整 clean margin 结合，识别反复出现的失效时，AUROC 分别为 0.935 和 0.958，所用支持集的特征数中位数分别为 20 和 19；完整读出的对应 AUROC 为 0.965 和 0.964。这些结果反映的是上述安全读出评估中的失效区分能力，不能等同于通用任务性能或安全性的提升。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移价值在于区分“表征发生变化”与“读出决策受损”，而非直接提供 BCI 解码方法。假设 EEG 编码器已有可解释的 SAE 稀疏表示及固定线性分类头，可复用重复响应筛选与贡献分解，需重新定义保持任务标签的扰动及独立留出划分。低信噪比、通道变化、跨被试差异和小数据可能降低支持集稳定性。一个可检验的小实验是在固定 EEG 解码器上，用训练侧扰动选择支持集，再在留出试次及未参与选择的扰动上检验其重复性与错误识别能力。已有 EEG 相关工作尚未检索确认。