面向 EEG-based BCI 深度学习模型解释的最佳实践

基于摘要分析。该研究关注 EEG-based BCI 深度学习模型的解释结果能否可信地反映模型决策，通过跨模型、跨数据集定量评估七种解释技术，并提出一套用于以易理解且可信的方式呈现解释结果的流程。 研究背景是，常见解释方法会生成热图，表示输入各位置对已训练模型最终分类的贡献。但热图可视化本身并不能回答其是否准确反映模型决策。本文的主要研究对象因此是解释技术的可靠性，而非提出新的 EEG 分类模型。 作者报告，选择合适的解释技术是重要的起点；即使某种方法总体表现较好，不同单个样本的解释质量仍可能不一致。作者还指出，模型结构和数据集类型等因素可能影响解释质量。这些结论提示，不能仅依据方法的平均表现，就认定每个样本的热图都可靠。 作者依据上述观察提出解释结果的呈现流程，并通过不同场景中选取的实例展示其用途。摘要未提供七种技术的名称、模型与数据集名称、被试数量、数据划分、解释质量指标或定量结果，也未给出推荐流程的具体步骤。因此，目前无法比较各技术的适用范围，或直接据此复现评估；实验协议、消融及统计信息尚未验证。阅读全文时，应重点核对解释质量的操作性定义、单样本可靠性的评估方式，以及所提流程如何处理不可靠的解释结果。