跳到正文

算法、任务与模态

Explainable AI 最新动态

Explainable AI 研究索引；按可核对的标签归档，不以热度评价质量。

145 条精选近 30 天 50 条共收录 224 条

更新

精选归档 · 第 8 页

1月1日周五第 141–145 条
  1. OpenReview · State space models81

    M/EEG 线性黎曼切空间模型参数的解释

    基于摘要分析。该研究针对 MEG 和 EEG 应用中黎曼切空间模型相较于传统成分方法可解释性有限的问题，提出将线性切空间模型参数转换为可解释模式的方法，主要贡献是建立模型参数与编码目标信号的潜在源模式之间的联系。 机制与理论：作者报告，在若干典型假设下，所提出的转换能够识别编码目标信号的潜在源真实模式。其重点是解释已有线性切空间模型，而非发布新的预训练模型或仅提升预测性能。摘要未给出参数转换公式、具体假设及模式的计算过程，因此尚不能确认其理论保证适用于哪些源混合结构和目标编码关系。 验证与结果：作者报告，通过仿真以及两个真实 MEG 和 EEG 数据集验证该方法，并考察模型假设被违背时的行为。作者报告，黎曼切空间方法对不同观测之间源模式的差异具有稳健性，相关解释模式也继承了这一性质。摘要未提供数据集名称、被试数、任务、数据划分、对照方法或定量指标，不能据此推断跨被试或跨会话效果；实验协议、消融及统计信息尚未验证。 阅读与复现关注点：需核对正文中“典型假设”的具体内容、模式恢复的评价标准，以及源模式变化的仿真方式。用于 EEG/MEG 生物标志物解释时，还需区分预测关联模式与因果机制；摘要中的模式识别结论不应扩展为对生物标志物临床有效性的验证。复现所需的实现、预处理与模型配置尚未验证。

    阅读价值：该研究为线性黎曼切空间模型提供参数到可解释模式的转换方法，值得核对其潜在源识别假设及假设违背时的稳健性，以评估其在 EEG/MEG 模型解释和生物标志物分析中的适用范围。

  2. OpenReview · EEG72

    用于单通道 EEG 跨被试驾驶员疲劳检测的紧凑且可解释卷积神经网络

    基于摘要分析。该研究针对单通道 EEG 驾驶员疲劳检测中的跨被试差异，提出紧凑且可解释的卷积神经网络（CNN），旨在学习不同被试共享的判别特征，为免校准检测提供方法探索。 核心机制是在模型中引入 Global Average Pooling（GAP），使 Class Activation Map（CAM）能够定位输入信号中对分类贡献较大的区域。摘要未给出网络层数、参数量、损失函数或训练配置，因此“紧凑”的具体计算与存储成本尚未验证；CAM 提供的是模型判别依据的可视化，不能单独确立生理因果关系。 作者报告，在涉及 11 名被试的二分类跨被试 EEG 评估中，模型平均 Accuracy 为 73.22%，高于所比较的传统机器学习方法及其他深度学习方法。摘要未列出数据集名称、具体被试划分、片段生成方式、基线名称及各基线结果，实验协议、消融及统计信息尚未验证；这一结果不能直接视为真实驾驶环境中的免校准部署效果。 作者报告，CAM 可视化显示模型将 Alpha spindles 和 Theta burst 等具有生理解释的特征作为疲劳状态的证据，同时利用肌肉伪迹与传感器漂移识别清醒状态。后者是重要的核对点：模型可能利用与状态相关、但也依赖采集条件的线索，其跨设备或跨会话稳定性尚未验证，不能据此断言存在数据泄漏或实验设计问题。 复现时需核对单通道位置、预处理与伪迹处理、疲劳标签定义、跨被试划分及模型训练配置。可进一步比较保留与抑制伪迹条件下的跨被试 Accuracy 和 CAM 定位，检验清醒状态的判别是否过度依赖采集相关线索；这是待检验的建议，并非作者已报告的结果。

    阅读价值：值得阅读之处在于以单通道 EEG 的跨被试疲劳检测检验共享特征学习，并用 CAM 揭示模型同时利用生理节律与伪迹，便于核对其判别依据及泛化风险。

  3. OpenReview · State space models74

    用于图表示学习的深度潜在空间模型

    基于摘要分析。本文研究有向图的表示学习，提出 Deep Latent Space Model（DLSM），将潜变量生成模型与深度学习结合，旨在兼顾图表示的可解释性与推断效率。主要研究对象是一般关系数据中的有向图，而非 EEG 或 BCI 信号。 模型由 graph convolutional network（GCN）编码器和随机解码器组成，通过层次变分自编码器架构逐层连接。其关键机制是使用节点随机因子显式建模度异质性，使节点连接数量的差异与社区结构都能得到解释。推断采用 stochastic gradient variational Bayes（SGVB）及非迭代识别模型；作者称其比传统基于 MCMC 的方法更具可扩展性。摘要未给出具体生成分布、损失形式、层数及随机因子的参数化方式。 作者报告，在真实世界数据集上的 link prediction 和 community detection 任务中，DLSM 达到当时的 state-of-the-art 表现，并学习到可解释的节点嵌入。但摘要未列出数据集名称、划分方式、对照基线、指标数值或运行成本，不能据此量化性能或扩展性优势；实验协议、消融及统计信息尚未验证。摘要提供了源码地址，但代码可运行性及复现条件尚未核对。 平台推测（待验证）：若 EEG 被构建为有向连接图，节点随机因子可能用于区分连接度差异与潜在社区组织；这是机制迁移假设，不是已证实的 BCI 效果。该迁移依赖可靠的有向边估计，且需核对原解码器能否处理加权连接。可考虑复用层次变分框架与度异质性建模，但须改造信号到图的构建方式，并明确图嵌入如何用于下游任务。低信噪比、跨被试差异、通道布局变化及小数据可能使连接估计不稳定，随机因子也可能吸收伪迹而非有效结构。一个可检验的小实验是在固定通道和图构建规则下，按被试隔离训练与测试，比较完整模型与移除节点随机因子的版本在留出边预测及嵌入稳定性上的差异。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 DLSM 如何通过节点随机因子区分社区结构与度异质性，以及层次变分推断相对 MCMC 的扩展性；其对 EEG 图表示的价值尚未验证。

  4. OpenReview · EEG72

    用于 EEG 信号伪迹去除的嵌入分解

    基于摘要分析。该研究针对 EEG 记录中的伪迹污染，提出深度学习框架 DeepSeparator，在嵌入空间分离神经信号与伪迹，再重建去噪信号。其主要贡献是将特征编码、伪迹分解与信号重建串联，并支持提取伪迹成分，以辅助理解模型的去噪行为。 机制上，encoder 从原始 EEG 中提取并增强特征；decomposer 提取趋势、检测并抑制伪迹；decoder 重建去噪信号。作者认为，相较于依赖先验经验的传统分析方法，这种框架提供了学习式的伪迹处理路径。摘要未给出嵌入分解的数学定义、监督信号、损失函数或训练细节，尚不能确认其如何约束神经成分与伪迹成分的分离，也不能仅凭可输出伪迹就认定分解具有生理真实性。 作者报告，在半合成 EEG 数据集与真实任务相关 EEG 数据集上，DeepSeparator 对 EOG 和 EMG 伪迹的去除优于传统模型。摘要未提供数据集名称、被试数量、数据划分、对照方法及具体指标，因此该结论应限定于作者所述评估，不能外推为跨被试或跨会话优势。实验协议、消融及统计信息尚未验证。 作者表示，该方法可扩展至多通道 EEG 和任意长度数据，并提供了代码入口；具体实现方式与这些扩展的验证范围尚未确认。复现时应核对半合成数据的构造与污染强度、真实任务数据的评估依据，以及去噪过程是否保留任务相关神经成分。该研究直接面向 EEG 去噪，但摘要未报告下游 BCI 解码效果，不能将伪迹去除优势等同于 BCI 性能提升。

    阅读价值：值得关注 DeepSeparator 在嵌入空间分离神经信号与伪迹、同时输出去噪信号和伪迹的机制；摘要提供了代码入口，但其信号保真度及跨被试适用性仍需核对全文与实验。

1月1日周二
  1. OpenReview · State space models74

    用于高速公路行程时间预测的状态空间神经网络

    基于摘要分析。本文研究高速公路行程时间预测中可观测交通量之间复杂的非线性时空关系，基于该问题的状态空间表述推导递归状态空间神经网络（SSNN）。其主要贡献是以内部状态建模交通动态，并通过分析状态与权重配置构建 Reduced SSNN，在缩减参数的同时保持预测性能。 机制与结果：SSNN 面向实际经历的行程时间预测，而非 EEG 或 BCI 任务。作者报告，模型明显优于当时的实践方法，预测残差近似服从零均值正态分布，通常处于真实预期行程时间的 10% 范围内；摘要未明确对应基线、数据划分及误差计算细节，不能将这一表述改写为 Accuracy 或固定误差上限。作者还报告，内部状态与权重分析显示模型形成了与底层交通过程密切相关的内部表征，据此剔除不显著参数；Reduced SSNN 保留 63 个可调权重，模型规模减少 72%，且预测性能未下降。上述结果均限于摘要所述交通预测评估，实验协议、消融及统计信息尚未验证。 复现需核对：交通数据来源、输入变量、采样间隔、预测时域、训练与测试划分、状态更新形式、训练目标，以及参数筛减准则。摘要不足以确认该 SSNN 与现代同名状态空间模型的具体结构关系。 平台推测（待验证）：迁移假设是，递归状态表征和基于内部分析的参数缩减可能用于 EEG 时序预测中的动态建模与小模型设计。可借鉴状态更新与缩减思路，但须改造交通输入、预测目标及状态解释方式；原方法依赖哪些时空观测、监督信号和训练规模仍需全文核对。EEG 的低信噪比、跨被试差异、通道变化和小数据可能使状态解释及参数重要性不稳定。一个可检验的小实验是在固定被试内划分下比较完整模型与缩减模型的 EEG 短时预测误差及参数量，检验压缩能否保持泛化性能。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是以状态空间建模组织非线性时空预测，并依据内部状态与权重分析缩减模型的思路；其交通预测效果由作者报告，对 EEG 的适用性尚未验证。