#Mechanistic Interpretability

超越训练模型：通过编译 GNN 构建可靠的解释器评测基准

基于摘要分析。该研究针对 GNN 解释器评估中的一个关键假设：数据中预设的 motif 不一定是训练后模型实际依赖的依据。作者提出以编译替代训练，通过 Gracr 将分级模态逻辑公式转换为 GNN 权重，并据此构建具有精确解释真值的 GracrBench。 核心机制是让模型复现给定逻辑公式的行为，使解释真值不再仅来自数据生成时植入的结构，而能够依据已知模型行为形式化定义并精确计算。作者称 Gracr 是首个将分级模态逻辑公式编译为 GNN 权重的编译器；其适用公式范围、编译约束及形式化保证尚未验证。 作者报告，在若干常用基准中，预设 motif 与模型实际决策依据之间的假设并不成立，例如仅凭节点度统计即可完成任务。在 GracrBench 的六项任务、十一种解释器评估中，作者报告多数解释器对间接影响，或同一逻辑公式的不同实现不够稳健。摘要未提供具体任务、解释器名单、指标数值及数据划分，实验协议、消融及统计信息尚未验证。 其主要价值是区分“恢复预设图结构”与“忠实解释模型行为”，并为解释器提供更细粒度的诊断条件。需要核对精确真值如何处理多种有效解释，以及编译模型与训练模型之间的行为和结构差异；这些差异可能限制评估结论向实际应用的外推。 平台推测（待验证）：若 EEG 分析采用通道或脑区图上的 GNN，该基准可作为解释器的受控测试环境，但不能直接证明解释结果具有神经生理意义。迁移需明确图节点、边和逻辑条件如何对应 EEG 特征，并评估低信噪比、跨被试变化及通道配置变化的影响。一个可检验的小实验是在固定通道图上构造逻辑行为相同、实现不同的编译模型，比较解释器相对精确真值的表现是否稳定，再逐步加入特征噪声。已有 EEG 相关工作尚未检索确认。