跳到正文

算法、任务与模态

Explainable AI 最新动态

Explainable AI 研究索引；按可核对的标签归档，不以热度评价质量。

226 条精选近 30 天 52 条共收录 359 条

更新

精选归档 · 第 12 页

5月6日周一第 221–226 条
  1. OpenReview · State space models70

    图空间嵌入

    基于摘要分析。本文提出 Graph Space Embedding（GSE），将输入映射到隐式编码交互信息的空间，旨在以较低计算开销利用交互关系，并提供参数可行域的理论分析及预测解释策略。其摘要所述实证对象是疑似冠状动脉疾病患者的真实临床队列，并非 EEG 或 BCI 任务。 方法方面，作者给出了 GSE 在所谓最优工作区间下的理论结果，具体涉及参数的可行域，并通过实验考察这些结果的相关性。摘要未说明输入的数据结构、嵌入映射的具体形式、交互的定义、优化目标或计算复杂度，因此尚不能判断其实现条件与理论结论的适用边界。作者还提出识别哪些交互关系影响特定预测的策略；其解释计算方式与验证协议尚未验证。 结果方面，作者报告，在上述临床队列的评估中，GSE 的表现明显优于传统算法，但摘要未提供具体任务、队列规模、数据划分、对照算法或评价指标，不能据此量化性能优势或判断泛化能力。实验协议、消融及统计信息尚未验证，代码与复现条件亦尚未验证。 材料没有建立该方法与神经信号处理的具体对应关系，因此不将临床队列结果解读为 BCI 有效性证据，也不据此提出 EEG 迁移实验。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体内容是 GSE 对交互信息的隐式编码、参数可行域的理论分析及预测解释策略，但性能优势与解释有效性仍需核对全文中的实验协议和证据。

1月1日周一
  1. OpenReview · EEG76

    用于可靠解释 EEG 分类的 Compensated Integrated Gradients

    基于摘要分析。本文研究 EEG 分类模型的输入特征归因，针对 Integrated Gradients 需要合适基线才能可靠估计特征贡献的问题，提出 Compensated Integrated Gradients：利用 Shapley sampling 补偿任意基线下计算的归因，旨在消除对合适基线选择的依赖。 核心机制并非完全不使用基线计算，而是允许先在任意基线下计算 Integrated Gradients，再进行归因补偿。作者给出的理论保证具有明确前提：分类器对各输入特征的处理过程相互独立，且处理方式相同，摘要以卷积神经网络中的共享权重作为说明。因此，不能将该保证直接理解为适用于所有 EEG 分类架构；这些条件如何形式化、如何对应实际模型，尚需核对全文。 作者报告，在三个 EEG 数据集上的实验中，所提方法的归因比原始 Integrated Gradients 更可靠，计算复杂度远低于 Shapley sampling。摘要未提供数据集名称、分类任务、被试数、被试内或跨被试等划分协议、归因可靠性的评价指标及具体数值，因此目前只能确认作者报告的比较方向，不能量化提升，也不能据此推断分类性能有所改善。 复现时需要核对补偿公式、Shapley sampling 的采样设置、任意基线的选取方式，以及可靠性评价与计算复杂度比较的具体条件。尤其需区分理论条件成立时的保证与实际 EEG 模型上的经验结果；实验协议、消融及统计信息尚未验证。

    阅读价值：值得阅读的具体原因是，该方法以 Shapley sampling 补偿 Integrated Gradients 对基线选择的依赖，并给出有条件的归因可靠性保证；其在 EEG 分类中的适用范围与计算收益仍需结合全文核对。

1月1日周四
  1. OpenReview · EEG73

    利用深度信念网络揭示 EEG 情绪识别的关键通道与频带

    基于摘要分析。研究针对多通道 EEG 中无关通道可能引入噪声、降低情绪识别性能的问题，提出利用深度信念网络（DBN）识别情绪，并通过其学习到的权重分布分析关键通道与频带。贡献不仅是分类模型比较，还包括将模型权重用于构建精简通道配置。 方法与任务：作者设计了观看情绪电影片段的实验并采集 EEG，以提取的差分熵特征作为 DBN 输入，识别 positive、neutral 和 negative 三类情绪，并与 KNN、LR、SVM 等浅层模型比较。摘要将依据 DBN 权重分布探索通道与频带重要性描述为区别于既有工作的做法，但未提供权重汇总规则、通道筛选步骤或具体关键频带。 结果：作者报告，在该电影片段诱发的三分类实验中，DBN 在所比较模型中取得最高平均 Accuracy，为 86.08%。作者进一步识别出包含 4、6、9、12 个通道的四种配置，使用 SVM 分别获得 82.88%、85.03%、84.02%、86.65% 的 Accuracy。摘要未说明这些结果对应的被试内或跨被试协议、数据划分及重复评估方式，因此不能仅据数值认定 12 通道 SVM 优于 DBN，也不能推断减少通道在其他被试或会话中同样有效。 技术核对重点：需结合全文确认 DBN 权重如何映射到通道与频带重要性，以及特征预处理、模型训练和通道选择是否均在相应训练划分内完成。被试人数、记录通道、频带范围、网络结构、实验协议、消融及统计信息尚未验证。模型权重可提供特征重要性的分析线索，但不能直接等同于情绪的生理机制解释；复现还需核对各通道配置的具体电极位置及完整训练与评估流程。

    阅读价值：值得阅读的具体原因是作者利用 DBN 学习权重分析 EEG 情绪识别中的关键通道与频带，并以不同规模通道配置的 SVM 识别结果检验精简输入的可行性，但其跨被试与跨会话有效性尚未验证。

1月1日周二
  1. OpenReview · State space models76

    决策理论规划中的策略解释与模型细化

    基于摘要分析。本学位论文研究不确定性下序贯决策的策略解释与模型细化：先解释 Markov Decision Processes（MDPs）的最优策略，再将专家反馈转化为参数约束，修正 Bayesian networks 和 MDPs，使重新计算的策略符合专家意见。主要贡献是把策略推荐的解释与决策模型的迭代修正联系起来，而非提出神经信号解码方法。 策略解释需要处理随机效应、可能冲突的多个目标以及行动的长期影响。作者提出领域无关的解释模板，以及确定完整论证策略推荐所需最少模板数量的过程。在该框架中，专家拒绝某项解释被视为生成该策略的模型存在不足的信号；但这种解释拒绝是否确实对应模型缺陷，需要结合具体应用核对。 模型细化方面，专家反馈被转换为模型参数上的非凸约束。对于 Bayesian networks，作者采用 Gibbs sampling 与 stochastic hill climbing 寻找满足约束的模型；对于 MDPs，则通过划分参数空间，使用交替线性优化学习能够产生符合专家反馈之策略的参数。摘要未给出约束的具体形式、优化收敛条件或计算成本。 论文还将解释与细化方法扩展到 Factored MDPs：以状态变量表示状态空间，并用 dynamic Bayesian networks 建模转移函数，以缓解大型问题中显式状态表示的组合膨胀。作者报告在本科生选课指导、失智症患者辅助洗手及制造业诊断三个领域开展了实证评估；摘要没有提供样本规模、对照基线或定量结果，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 BCI 系统另有基于 MDP 的辅助决策层，该框架可能用于解释行动推荐，并通过专家反馈修正决策模型；它并不直接解决 EEG 的低信噪比或跨被试解码问题。可复用部分是解释模板和反馈约束机制，需改造的是状态、动作、奖励及转移模型；神经信号状态估计误差和有限交互数据可能使约束不稳定或相互冲突。一个可检验的小实验是在固定解码器的离线辅助决策任务中，比较模型细化前后的专家约束满足率与任务回报，检验反馈一致性是否以任务性能下降为代价。相关 EEG/BCI 工作尚未检索确认。

    阅读价值：值得阅读的具体机制是将策略解释、专家异议与模型参数约束连接起来，并针对 Bayesian networks 和 MDPs 分别设计约束下的参数修正方法；其解释完整性及修正效果仍需结合全文实验核对。

1月1日周一
  1. OpenReview · EEG71

    用于生物信号分解的贝叶斯因子化线性高斯状态空间模型

    基于摘要分析。该研究旨在从单通道或多通道观测中提取潜在的独立动力系统，重点寻找一维子信号以提高分解的可解释性。其核心贡献是利用近似贝叶斯分析自动确定潜在动力系统的数量与适当复杂度，并偏好较简单的解释。 方法以 Bayesian Factorial Linear Gaussian State-Space Models 为建模框架，将观测信号的分解与潜在源的动态建模联系起来。摘要明确强调独立动力系统、一维子信号以及复杂度选择，但未提供状态转移与观测模型的具体形式、先验设定、近似推断算法或模型选择的计算细节，这些内容尚未验证。 作者将方法应用于未滤波 EEG，报告发现了具有偏好性频谱特征的低复杂度源，并称提取源的可解释性优于相关方法。该结论的评估前提仅明确到未滤波 EEG 分解；摘要未给出数据集、被试数量、通道配置、对照方法名称或定量指标，因此不能据此判断改善幅度，也不能推断其在 BCI 解码或跨被试任务中的有效性。 阅读与复现时需重点核对：潜在源独立性的建模含义、源数量与复杂度如何被自动确定，以及可解释性与频谱特征采用何种评估标准。实验协议、消融及统计信息尚未验证；实现条件与计算成本也需从全文进一步确认。

    阅读价值：值得阅读其如何以近似贝叶斯分析自动选择潜在动力系统的数量与复杂度，并核对作者报告的未滤波 EEG 源分解可解释性优势及其评估依据。

1月1日周二
  1. OpenReview · State space models74

    用于高速公路行程时间预测的状态空间神经网络

    基于摘要分析。本文研究高速公路行程时间预测中可观测交通量之间复杂的非线性时空关系，基于该问题的状态空间表述推导递归状态空间神经网络（SSNN）。其主要贡献是以内部状态建模交通动态，并通过分析状态与权重配置构建 Reduced SSNN，在缩减参数的同时保持预测性能。 机制与结果：SSNN 面向实际经历的行程时间预测，而非 EEG 或 BCI 任务。作者报告，模型明显优于当时的实践方法，预测残差近似服从零均值正态分布，通常处于真实预期行程时间的 10% 范围内；摘要未明确对应基线、数据划分及误差计算细节，不能将这一表述改写为 Accuracy 或固定误差上限。作者还报告，内部状态与权重分析显示模型形成了与底层交通过程密切相关的内部表征，据此剔除不显著参数；Reduced SSNN 保留 63 个可调权重，模型规模减少 72%，且预测性能未下降。上述结果均限于摘要所述交通预测评估，实验协议、消融及统计信息尚未验证。 复现需核对：交通数据来源、输入变量、采样间隔、预测时域、训练与测试划分、状态更新形式、训练目标，以及参数筛减准则。摘要不足以确认该 SSNN 与现代同名状态空间模型的具体结构关系。 平台推测（待验证）：迁移假设是，递归状态表征和基于内部分析的参数缩减可能用于 EEG 时序预测中的动态建模与小模型设计。可借鉴状态更新与缩减思路，但须改造交通输入、预测目标及状态解释方式；原方法依赖哪些时空观测、监督信号和训练规模仍需全文核对。EEG 的低信噪比、跨被试差异、通道变化和小数据可能使状态解释及参数重要性不稳定。一个可检验的小实验是在固定被试内划分下比较完整模型与缩减模型的 EEG 短时预测误差及参数量，检验压缩能否保持泛化性能。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是以状态空间建模组织非线性时空预测，并依据内部状态与权重分析缩减模型的思路；其交通预测效果由作者报告，对 EEG 的适用性尚未验证。