跳到正文

算法、任务与模态

Explainable AI 最新动态

Explainable AI 研究索引；按可核对的标签归档，不以热度评价质量。

168 条精选近 30 天 50 条共收录 263 条

更新

精选归档 · 第 9 页

1月1日周五第 161–168 条
  1. OpenReview · State space models81

    M/EEG 线性黎曼切空间模型参数的解释

    基于摘要分析。该研究针对 MEG 和 EEG 应用中黎曼切空间模型相较于传统成分方法可解释性有限的问题，提出将线性切空间模型参数转换为可解释模式的方法，主要贡献是建立模型参数与编码目标信号的潜在源模式之间的联系。 机制与理论：作者报告，在若干典型假设下，所提出的转换能够识别编码目标信号的潜在源真实模式。其重点是解释已有线性切空间模型，而非发布新的预训练模型或仅提升预测性能。摘要未给出参数转换公式、具体假设及模式的计算过程，因此尚不能确认其理论保证适用于哪些源混合结构和目标编码关系。 验证与结果：作者报告，通过仿真以及两个真实 MEG 和 EEG 数据集验证该方法，并考察模型假设被违背时的行为。作者报告，黎曼切空间方法对不同观测之间源模式的差异具有稳健性，相关解释模式也继承了这一性质。摘要未提供数据集名称、被试数、任务、数据划分、对照方法或定量指标，不能据此推断跨被试或跨会话效果；实验协议、消融及统计信息尚未验证。 阅读与复现关注点：需核对正文中“典型假设”的具体内容、模式恢复的评价标准，以及源模式变化的仿真方式。用于 EEG/MEG 生物标志物解释时，还需区分预测关联模式与因果机制；摘要中的模式识别结论不应扩展为对生物标志物临床有效性的验证。复现所需的实现、预处理与模型配置尚未验证。

    阅读价值：该研究为线性黎曼切空间模型提供参数到可解释模式的转换方法，值得核对其潜在源识别假设及假设违背时的稳健性，以评估其在 EEG/MEG 模型解释和生物标志物分析中的适用范围。

  2. OpenReview · EEG72

    用于单通道 EEG 跨被试驾驶员疲劳检测的紧凑且可解释卷积神经网络

    基于摘要分析。该研究针对单通道 EEG 驾驶员疲劳检测中的跨被试差异，提出紧凑且可解释的卷积神经网络（CNN），旨在学习不同被试共享的判别特征，为免校准检测提供方法探索。 核心机制是在模型中引入 Global Average Pooling（GAP），使 Class Activation Map（CAM）能够定位输入信号中对分类贡献较大的区域。摘要未给出网络层数、参数量、损失函数或训练配置，因此“紧凑”的具体计算与存储成本尚未验证；CAM 提供的是模型判别依据的可视化，不能单独确立生理因果关系。 作者报告，在涉及 11 名被试的二分类跨被试 EEG 评估中，模型平均 Accuracy 为 73.22%，高于所比较的传统机器学习方法及其他深度学习方法。摘要未列出数据集名称、具体被试划分、片段生成方式、基线名称及各基线结果，实验协议、消融及统计信息尚未验证；这一结果不能直接视为真实驾驶环境中的免校准部署效果。 作者报告，CAM 可视化显示模型将 Alpha spindles 和 Theta burst 等具有生理解释的特征作为疲劳状态的证据，同时利用肌肉伪迹与传感器漂移识别清醒状态。后者是重要的核对点：模型可能利用与状态相关、但也依赖采集条件的线索，其跨设备或跨会话稳定性尚未验证，不能据此断言存在数据泄漏或实验设计问题。 复现时需核对单通道位置、预处理与伪迹处理、疲劳标签定义、跨被试划分及模型训练配置。可进一步比较保留与抑制伪迹条件下的跨被试 Accuracy 和 CAM 定位，检验清醒状态的判别是否过度依赖采集相关线索；这是待检验的建议，并非作者已报告的结果。

    阅读价值：值得阅读之处在于以单通道 EEG 的跨被试疲劳检测检验共享特征学习，并用 CAM 揭示模型同时利用生理节律与伪迹，便于核对其判别依据及泛化风险。

  3. OpenReview · EEG72

    在脑启发脉冲神经网络中将可解释 EEG 模式学习为动态时空簇与规则的深度学习方法

    基于摘要分析。研究针对流式时空脑数据（STBD）的增量、在线学习与预测解释问题，提出在脑启发 Spiking Neural Network（SNN，脉冲神经网络）中分析动态神经元簇并提取时空规则的方法。其主要研究对象是认知任务期间健康对照与阿片类药物使用者的 EEG 分类，而非直接的 BCI 控制任务。 核心机制是在学习过程中追踪 SNN 内部形成的动态神经元簇，以多边形表征其随时间变化的大小与形状，并分析在特定空间和时间共同发生的脉冲驱动事件。作者据此识别重要 STBD 特征、进行特征选择，并提取用于解释输出预测的时空规则。摘要未提供具体网络结构、学习规则、聚类算法或规则提取公式，其实现细节尚未验证。 案例包括健康对照 21 人和阿片类药物使用者 18 人，均在执行认知任务时记录 EEG。作者报告，两组 EEG 的 SNN 模型呈现不同的动态簇变化趋势；据此选择一组标志性 EEG 特征后，分类 Accuracy 达到 92%，优于使用全部特征的分类。摘要未给出全特征基线数值，也未说明被试内或跨被试评估、训练测试划分及统计不确定性，因此不能据此确定提升幅度或跨被试泛化能力。 作者还将模型中对应相邻 EEG 通道的邻接簇区域描述为模糊边界，用于解释两组的脑区活动重叠。应区分模型内部的空间组织、通道邻接关系与真实脑区活动：这些解释是否具有稳定性及独立生理依据，需进一步核对。复现重点是 EEG 预处理、通道到 SNN 空间的映射、动态簇定义、特征选择与测试划分的关系，以及规则对预测的忠实性；实验协议、消融及统计信息尚未验证。

    阅读价值：值得阅读之处在于将 SNN 学习中的动态神经元簇与时空规则用于 EEG 特征选择和预测解释，但分类增益及解释的可靠性仍需结合完整评估协议核对。

  4. OpenReview · State space models74

    用于图表示学习的深度潜在空间模型

    基于摘要分析。本文研究有向图的表示学习，提出 Deep Latent Space Model（DLSM），将潜变量生成模型与深度学习结合，旨在兼顾图表示的可解释性与推断效率。主要研究对象是一般关系数据中的有向图，而非 EEG 或 BCI 信号。 模型由 graph convolutional network（GCN）编码器和随机解码器组成，通过层次变分自编码器架构逐层连接。其关键机制是使用节点随机因子显式建模度异质性，使节点连接数量的差异与社区结构都能得到解释。推断采用 stochastic gradient variational Bayes（SGVB）及非迭代识别模型；作者称其比传统基于 MCMC 的方法更具可扩展性。摘要未给出具体生成分布、损失形式、层数及随机因子的参数化方式。 作者报告，在真实世界数据集上的 link prediction 和 community detection 任务中，DLSM 达到当时的 state-of-the-art 表现，并学习到可解释的节点嵌入。但摘要未列出数据集名称、划分方式、对照基线、指标数值或运行成本，不能据此量化性能或扩展性优势；实验协议、消融及统计信息尚未验证。摘要提供了源码地址，但代码可运行性及复现条件尚未核对。 平台推测（待验证）：若 EEG 被构建为有向连接图，节点随机因子可能用于区分连接度差异与潜在社区组织；这是机制迁移假设，不是已证实的 BCI 效果。该迁移依赖可靠的有向边估计，且需核对原解码器能否处理加权连接。可考虑复用层次变分框架与度异质性建模，但须改造信号到图的构建方式，并明确图嵌入如何用于下游任务。低信噪比、跨被试差异、通道布局变化及小数据可能使连接估计不稳定，随机因子也可能吸收伪迹而非有效结构。一个可检验的小实验是在固定通道和图构建规则下，按被试隔离训练与测试，比较完整模型与移除节点随机因子的版本在留出边预测及嵌入稳定性上的差异。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 DLSM 如何通过节点随机因子区分社区结构与度异质性，以及层次变分推断相对 MCMC 的扩展性；其对 EEG 图表示的价值尚未验证。

  5. OpenReview · EEG72

    用于 EEG 信号伪迹去除的嵌入分解

    基于摘要分析。该研究针对 EEG 记录中的伪迹污染，提出深度学习框架 DeepSeparator，在嵌入空间分离神经信号与伪迹，再重建去噪信号。其主要贡献是将特征编码、伪迹分解与信号重建串联，并支持提取伪迹成分，以辅助理解模型的去噪行为。 机制上，encoder 从原始 EEG 中提取并增强特征；decomposer 提取趋势、检测并抑制伪迹；decoder 重建去噪信号。作者认为，相较于依赖先验经验的传统分析方法，这种框架提供了学习式的伪迹处理路径。摘要未给出嵌入分解的数学定义、监督信号、损失函数或训练细节，尚不能确认其如何约束神经成分与伪迹成分的分离，也不能仅凭可输出伪迹就认定分解具有生理真实性。 作者报告，在半合成 EEG 数据集与真实任务相关 EEG 数据集上，DeepSeparator 对 EOG 和 EMG 伪迹的去除优于传统模型。摘要未提供数据集名称、被试数量、数据划分、对照方法及具体指标，因此该结论应限定于作者所述评估，不能外推为跨被试或跨会话优势。实验协议、消融及统计信息尚未验证。 作者表示，该方法可扩展至多通道 EEG 和任意长度数据，并提供了代码入口；具体实现方式与这些扩展的验证范围尚未确认。复现时应核对半合成数据的构造与污染强度、真实任务数据的评估依据，以及去噪过程是否保留任务相关神经成分。该研究直接面向 EEG 去噪，但摘要未报告下游 BCI 解码效果，不能将伪迹去除优势等同于 BCI 性能提升。

    阅读价值：值得关注 DeepSeparator 在嵌入空间分离神经信号与伪迹、同时输出去噪信号和伪迹的机制；摘要提供了代码入口，但其信号保真度及跨被试适用性仍需核对全文与实验。

5月6日周一
  1. OpenReview · State space models70

    图空间嵌入

    基于摘要分析。本文提出 Graph Space Embedding（GSE），将输入映射到隐式编码交互信息的空间，旨在以较低计算开销利用交互关系，并提供参数可行域的理论分析及预测解释策略。其摘要所述实证对象是疑似冠状动脉疾病患者的真实临床队列，并非 EEG 或 BCI 任务。 方法方面，作者给出了 GSE 在所谓最优工作区间下的理论结果，具体涉及参数的可行域，并通过实验考察这些结果的相关性。摘要未说明输入的数据结构、嵌入映射的具体形式、交互的定义、优化目标或计算复杂度，因此尚不能判断其实现条件与理论结论的适用边界。作者还提出识别哪些交互关系影响特定预测的策略；其解释计算方式与验证协议尚未验证。 结果方面，作者报告，在上述临床队列的评估中，GSE 的表现明显优于传统算法，但摘要未提供具体任务、队列规模、数据划分、对照算法或评价指标，不能据此量化性能优势或判断泛化能力。实验协议、消融及统计信息尚未验证，代码与复现条件亦尚未验证。 材料没有建立该方法与神经信号处理的具体对应关系，因此不将临床队列结果解读为 BCI 有效性证据，也不据此提出 EEG 迁移实验。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体内容是 GSE 对交互信息的隐式编码、参数可行域的理论分析及预测解释策略，但性能优势与解释有效性仍需核对全文中的实验协议和证据。

1月1日周四
  1. OpenReview · EEG73

    利用深度信念网络揭示 EEG 情绪识别的关键通道与频带

    基于摘要分析。研究针对多通道 EEG 中无关通道可能引入噪声、降低情绪识别性能的问题，提出利用深度信念网络（DBN）识别情绪，并通过其学习到的权重分布分析关键通道与频带。贡献不仅是分类模型比较，还包括将模型权重用于构建精简通道配置。 方法与任务：作者设计了观看情绪电影片段的实验并采集 EEG，以提取的差分熵特征作为 DBN 输入，识别 positive、neutral 和 negative 三类情绪，并与 KNN、LR、SVM 等浅层模型比较。摘要将依据 DBN 权重分布探索通道与频带重要性描述为区别于既有工作的做法，但未提供权重汇总规则、通道筛选步骤或具体关键频带。 结果：作者报告，在该电影片段诱发的三分类实验中，DBN 在所比较模型中取得最高平均 Accuracy，为 86.08%。作者进一步识别出包含 4、6、9、12 个通道的四种配置，使用 SVM 分别获得 82.88%、85.03%、84.02%、86.65% 的 Accuracy。摘要未说明这些结果对应的被试内或跨被试协议、数据划分及重复评估方式，因此不能仅据数值认定 12 通道 SVM 优于 DBN，也不能推断减少通道在其他被试或会话中同样有效。 技术核对重点：需结合全文确认 DBN 权重如何映射到通道与频带重要性，以及特征预处理、模型训练和通道选择是否均在相应训练划分内完成。被试人数、记录通道、频带范围、网络结构、实验协议、消融及统计信息尚未验证。模型权重可提供特征重要性的分析线索，但不能直接等同于情绪的生理机制解释；复现还需核对各通道配置的具体电极位置及完整训练与评估流程。

    阅读价值：值得阅读的具体原因是作者利用 DBN 学习权重分析 EEG 情绪识别中的关键通道与频带，并以不同规模通道配置的 SVM 识别结果检验精简输入的可行性，但其跨被试与跨会话有效性尚未验证。

1月1日周二
  1. OpenReview · State space models74

    用于高速公路行程时间预测的状态空间神经网络

    基于摘要分析。本文研究高速公路行程时间预测中可观测交通量之间复杂的非线性时空关系，基于该问题的状态空间表述推导递归状态空间神经网络（SSNN）。其主要贡献是以内部状态建模交通动态，并通过分析状态与权重配置构建 Reduced SSNN，在缩减参数的同时保持预测性能。 机制与结果：SSNN 面向实际经历的行程时间预测，而非 EEG 或 BCI 任务。作者报告，模型明显优于当时的实践方法，预测残差近似服从零均值正态分布，通常处于真实预期行程时间的 10% 范围内；摘要未明确对应基线、数据划分及误差计算细节，不能将这一表述改写为 Accuracy 或固定误差上限。作者还报告，内部状态与权重分析显示模型形成了与底层交通过程密切相关的内部表征，据此剔除不显著参数；Reduced SSNN 保留 63 个可调权重，模型规模减少 72%，且预测性能未下降。上述结果均限于摘要所述交通预测评估，实验协议、消融及统计信息尚未验证。 复现需核对：交通数据来源、输入变量、采样间隔、预测时域、训练与测试划分、状态更新形式、训练目标，以及参数筛减准则。摘要不足以确认该 SSNN 与现代同名状态空间模型的具体结构关系。 平台推测（待验证）：迁移假设是，递归状态表征和基于内部分析的参数缩减可能用于 EEG 时序预测中的动态建模与小模型设计。可借鉴状态更新与缩减思路，但须改造交通输入、预测目标及状态解释方式；原方法依赖哪些时空观测、监督信号和训练规模仍需全文核对。EEG 的低信噪比、跨被试差异、通道变化和小数据可能使状态解释及参数重要性不稳定。一个可检验的小实验是在固定被试内划分下比较完整模型与缩减模型的 EEG 短时预测误差及参数量，检验压缩能否保持泛化性能。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是以状态空间建模组织非线性时空预测，并依据内部状态与权重分析缩减模型的思路；其交通预测效果由作者报告，对 EEG 的适用性尚未验证。