我的网络学到了什么？评估 EEG 深度学习的可解释性

本研究考察 EEG 深度学习的可解释性如何受到预处理、网络架构及特征提取与可视化方式的影响，核心贡献是将解码性能与学得特征的解释差异分开比较。基于摘要分析，未取得论文全文。 作者训练了两种卷积神经网络：采用残差结构的 ResNet，以及利用 EEG 时空特性的 EEGNet。任务包括对三种不同视觉刺激的单试次 EEG 响应进行解码，以及解码声音是否存在；摘要分别称其为 visual dataset 和 auditory dataset，未提供正式数据集名称。作者使用 saliency 与 gradient-weighted activation maps（GradCam）两种基于梯度的方法提取并可视化学得特征。 作者报告，在上述视觉和听觉解码任务中，EEGNet 与 ResNet 的性能处于相近水平，但可视化显示两种架构学习了数据的不同方面；EEGNet 特征与 EEG 数据的相似性高于 ResNet 特征。作者还报告，重要电极的分布及其对应潜伏期随可视化方法而变化，GradCam 提取的特征比 saliency 特征更接近 EEG 数据。摘要未提供具体性能指标、数值、相似性定义或统计检验，因此这些结果只能作为作者报告的定性比较。 研究提示，不能仅凭解码性能判断模型学到了哪些 EEG 特征，解释结果也需要结合架构与可视化方法审视。特征与 EEG 数据更相似，是否意味着解释更忠实于模型决策或更具神经生理意义，仍需核对正文中的验证依据。预处理的具体比较与结果、被试数量、被试内或跨被试划分、训练设置、实验协议、消融及统计信息尚未验证；复现前还需确认解释图的计算方式、相似性度量及代码可用性。