在词表空间中解耦 MLP 神经元权重

基于摘要分析。本文研究语言模型 MLP 神经元权重所编码信息的可解释性，提出 ROTATE（Rotation-Optimized Token Alignment in weighT spacE），直接在权重空间分解神经元，无需输入数据或前向传播。其贡献是恢复细粒度的 vocabulary channels（词表通道），并将通道描述汇总为神经元描述。 核心机制是利用词表空间中的统计特征：作者认为，编码连贯、单义概念的神经元，其词表投影具有较高峰度。ROTATE 通过优化神经元权重的旋转、最大化词表空间峰度，寻找稀疏且可解释的方向。摘要未给出旋转的具体作用范围、约束、优化流程或词表投影实现，这些细节尚未验证。 作者报告，在 Llama-3.1-8B-Instruct 和 Gemma-2-2B-it 上，恢复的词表通道与神经元行为相符；消融单个通道可选择性地抑制对应输入激活，或削弱特定概念的促进作用。作者还报告，汇总通道描述得到的神经元描述，在头对头比较中优于经过优化的基于激活的基线，幅度为 2–3 倍。摘要未明确这一倍数所对应的评价指标、比较样本与评审协议，不能将其理解为 Accuracy 提升。 复现需核对模型权重与词表投影接口、旋转优化与通道选择规则、描述生成流程，以及消融和头对头评估的实验协议、消融及统计信息。该方法的直接对象是具有词表结构的语言模型，而非 EEG 解码模型；现有材料不足以建立其与 EEG/BCI 的具体机制对应关系，因此不据此推断 BCI 效果或提出迁移实验。已有 EEG 相关工作尚未检索确认。