跳到正文

算法、任务与模态

Explainable AI 最新动态

Explainable AI 研究索引；按可核对的标签归档，不以热度评价质量。

287 条精选近 30 天 57 条共收录 442 条

更新

精选归档 · 第 15 页

1月1日周一第 281–287 条
  1. OpenReview · EEG76

    用于可靠解释 EEG 分类的 Compensated Integrated Gradients

    基于摘要分析。本文研究 EEG 分类模型的输入特征归因，针对 Integrated Gradients 需要合适基线才能可靠估计特征贡献的问题，提出 Compensated Integrated Gradients：利用 Shapley sampling 补偿任意基线下计算的归因，旨在消除对合适基线选择的依赖。 核心机制并非完全不使用基线计算，而是允许先在任意基线下计算 Integrated Gradients，再进行归因补偿。作者给出的理论保证具有明确前提：分类器对各输入特征的处理过程相互独立，且处理方式相同，摘要以卷积神经网络中的共享权重作为说明。因此，不能将该保证直接理解为适用于所有 EEG 分类架构；这些条件如何形式化、如何对应实际模型，尚需核对全文。 作者报告，在三个 EEG 数据集上的实验中，所提方法的归因比原始 Integrated Gradients 更可靠，计算复杂度远低于 Shapley sampling。摘要未提供数据集名称、分类任务、被试数、被试内或跨被试等划分协议、归因可靠性的评价指标及具体数值，因此目前只能确认作者报告的比较方向，不能量化提升，也不能据此推断分类性能有所改善。 复现时需要核对补偿公式、Shapley sampling 的采样设置、任意基线的选取方式，以及可靠性评价与计算复杂度比较的具体条件。尤其需区分理论条件成立时的保证与实际 EEG 模型上的经验结果；实验协议、消融及统计信息尚未验证。

    阅读价值：值得阅读的具体原因是，该方法以 Shapley sampling 补偿 Integrated Gradients 对基线选择的依赖，并给出有条件的归因可靠性保证；其在 EEG 分类中的适用范围与计算收益仍需结合全文核对。

1月1日周五
  1. OpenReview · EEG73

    基于 NeuCube 神经形态框架的演化时空数据机器：设计方法与应用示例

    基于摘要分析。本文面向大规模、快速到达的时空及频谱—时间数据，提出演化时空数据机器（eSTDM），并介绍基于 NeuCube 神经形态框架的构建方法。其主要研究对象是可持续适应数据流的多模块计算系统，EEG 是所列应用之一，而非唯一研究对象。 核心机制是以脉冲神经网络（SNN）作为主要处理模块，结合类脑信息处理原则实现演化连接系统（ECOS）。作者描述，该系统可从数据流中增量学习，在运行过程中加入新的输入变量、输出类别标签或回归输出，并持续调整结构与功能；系统还可进行可视化与解释，以支持知识发现。摘要未提供具体脉冲编码、学习规则、模块连接方式或结构更新条件，这些技术细节尚未验证。 早期事件预测的依据是：SNN 可在完整输入向量呈现之前产生脉冲响应。作者据此提出提前预测的能力，但摘要未说明预测触发规则、提前量定义、误报控制及其与完整输入预测的性能权衡，因此不能将该机制直接视为已验证的实时 BCI 优势。 作者报告展示了 EEG、fMRI、多传感地震、生态、气候及视听数据上的模式识别与早期事件预测应用示例，未在摘要中提供具体数据集、被试数、被试内或跨被试划分、对照基线及定量指标。实验协议、消融及统计信息尚未验证，各领域示例也不能据此直接比较。 实现方面，摘要介绍了 MATLAB、Java 和 PyNN（Python）版本；作者指出，PyNN 实现有助于在神经形态硬件平台上运行 eSTDM，但未给出代码开放状态、依赖版本或硬件实测结果。对于 EEG 研究，需进一步核对信号到脉冲的编码方式、空间映射、增量更新所需监督，以及早期预测的评估协议，才能判断其复现条件与实际适用范围。神经遗传 eSTDM 的扩展属于作者讨论的未来方向，不应视为本文已完成的贡献。

    阅读价值：值得阅读其以 SNN 支持时空数据流增量学习与早期事件预测的设计方法，以及 EEG 应用示例，但预测效果、结构适应能力和复现条件仍需全文核对。

1月1日周四
  1. OpenReview · EEG73

    利用深度信念网络揭示 EEG 情绪识别的关键通道与频带

    基于摘要分析。研究针对多通道 EEG 中无关通道可能引入噪声、降低情绪识别性能的问题，提出利用深度信念网络（DBN）识别情绪，并通过其学习到的权重分布分析关键通道与频带。贡献不仅是分类模型比较，还包括将模型权重用于构建精简通道配置。 方法与任务：作者设计了观看情绪电影片段的实验并采集 EEG，以提取的差分熵特征作为 DBN 输入，识别 positive、neutral 和 negative 三类情绪，并与 KNN、LR、SVM 等浅层模型比较。摘要将依据 DBN 权重分布探索通道与频带重要性描述为区别于既有工作的做法，但未提供权重汇总规则、通道筛选步骤或具体关键频带。 结果：作者报告，在该电影片段诱发的三分类实验中，DBN 在所比较模型中取得最高平均 Accuracy，为 86.08%。作者进一步识别出包含 4、6、9、12 个通道的四种配置，使用 SVM 分别获得 82.88%、85.03%、84.02%、86.65% 的 Accuracy。摘要未说明这些结果对应的被试内或跨被试协议、数据划分及重复评估方式，因此不能仅据数值认定 12 通道 SVM 优于 DBN，也不能推断减少通道在其他被试或会话中同样有效。 技术核对重点：需结合全文确认 DBN 权重如何映射到通道与频带重要性，以及特征预处理、模型训练和通道选择是否均在相应训练划分内完成。被试人数、记录通道、频带范围、网络结构、实验协议、消融及统计信息尚未验证。模型权重可提供特征重要性的分析线索，但不能直接等同于情绪的生理机制解释；复现还需核对各通道配置的具体电极位置及完整训练与评估流程。

    阅读价值：值得阅读的具体原因是作者利用 DBN 学习权重分析 EEG 情绪识别中的关键通道与频带，并以不同规模通道配置的 SVM 识别结果检验精简输入的可行性，但其跨被试与跨会话有效性尚未验证。

1月1日周三
  1. OpenReview · State space models75

    Graph-Sparse LDA：具有结构化稀疏性的主题模型

    基于摘要分析。该研究针对高维词空间中主题难以解释的问题，提出层次主题模型 Graph-Sparse LDA，利用词之间的关系（例如本体所编码的关系），以图中的少量潜在概念词解释观测词并概括主题。原论文主要研究对象是主题建模及其在生物医学数据上的应用，而非 EEG 解码或 BCI。 核心机制是让结构化知识参与主题表示：主题摘要不只依赖观测词的稀疏选择，还通过底层关系图中的潜在概念词组织解释。摘要指出，即使采用已有稀疏技术，高维空间中的主题仍可能难以理解；该方法的贡献在于结合关系结构与稀疏概念摘要。具体概率生成过程、稀疏约束、推断算法以及对关系图的要求尚未验证。 作者报告，在两个真实世界生物医学数据集上，Graph-Sparse LDA 得到了稀疏且可解释的摘要，同时预测性能与当时先进方法相当。摘要未提供数据集名称、样本规模、预测任务、指标、划分方式或对照方法，因此无法量化性能差异，也不能据此判断可解释性的评估强度。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 特征能被转换为离散事件或词项，并具有可信的特征关系图，该机制可能用于探索可解释的潜在活动模式，而非直接替代连续信号解码器。假设其依赖的词项表示和关系图能够保留任务信息，可复用概念摘要思路，但需改造 EEG 特征编码与图构建。低信噪比、跨被试差异、通道变化及小数据可能导致离散化丢失信息或图先验失配。一个小规模可证伪实验是固定同一 EEG 特征表示与划分协议，对比普通 LDA、Graph-Sparse LDA 及打乱关系图的版本，分别检查下游预测与主题稳定性。已有 EEG 相关工作尚未检索确认，原领域结果不构成 BCI 有效性的证据。

    阅读价值：值得阅读的具体原因是其将词间关系图引入主题模型，以少量潜在概念词概括高维观测词；摘要中的可解释性与预测性能结论仍需结合全文实验核对。

1月1日周二
  1. OpenReview · State space models76

    决策理论规划中的策略解释与模型细化

    基于摘要分析。本学位论文研究不确定性下序贯决策的策略解释与模型细化：先解释 Markov Decision Processes（MDPs）的最优策略，再将专家反馈转化为参数约束，修正 Bayesian networks 和 MDPs，使重新计算的策略符合专家意见。主要贡献是把策略推荐的解释与决策模型的迭代修正联系起来，而非提出神经信号解码方法。 策略解释需要处理随机效应、可能冲突的多个目标以及行动的长期影响。作者提出领域无关的解释模板，以及确定完整论证策略推荐所需最少模板数量的过程。在该框架中，专家拒绝某项解释被视为生成该策略的模型存在不足的信号；但这种解释拒绝是否确实对应模型缺陷，需要结合具体应用核对。 模型细化方面，专家反馈被转换为模型参数上的非凸约束。对于 Bayesian networks，作者采用 Gibbs sampling 与 stochastic hill climbing 寻找满足约束的模型；对于 MDPs，则通过划分参数空间，使用交替线性优化学习能够产生符合专家反馈之策略的参数。摘要未给出约束的具体形式、优化收敛条件或计算成本。 论文还将解释与细化方法扩展到 Factored MDPs：以状态变量表示状态空间，并用 dynamic Bayesian networks 建模转移函数，以缓解大型问题中显式状态表示的组合膨胀。作者报告在本科生选课指导、失智症患者辅助洗手及制造业诊断三个领域开展了实证评估；摘要没有提供样本规模、对照基线或定量结果，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 BCI 系统另有基于 MDP 的辅助决策层，该框架可能用于解释行动推荐，并通过专家反馈修正决策模型；它并不直接解决 EEG 的低信噪比或跨被试解码问题。可复用部分是解释模板和反馈约束机制，需改造的是状态、动作、奖励及转移模型；神经信号状态估计误差和有限交互数据可能使约束不稳定或相互冲突。一个可检验的小实验是在固定解码器的离线辅助决策任务中，比较模型细化前后的专家约束满足率与任务回报，检验反馈一致性是否以任务性能下降为代价。相关 EEG/BCI 工作尚未检索确认。

    阅读价值：值得阅读的具体机制是将策略解释、专家异议与模型参数约束连接起来，并针对 Bayesian networks 和 MDPs 分别设计约束下的参数修正方法；其解释完整性及修正效果仍需结合全文实验核对。

1月1日周一
  1. OpenReview · EEG71

    用于生物信号分解的贝叶斯因子化线性高斯状态空间模型

    基于摘要分析。该研究旨在从单通道或多通道观测中提取潜在的独立动力系统，重点寻找一维子信号以提高分解的可解释性。其核心贡献是利用近似贝叶斯分析自动确定潜在动力系统的数量与适当复杂度，并偏好较简单的解释。 方法以 Bayesian Factorial Linear Gaussian State-Space Models 为建模框架，将观测信号的分解与潜在源的动态建模联系起来。摘要明确强调独立动力系统、一维子信号以及复杂度选择，但未提供状态转移与观测模型的具体形式、先验设定、近似推断算法或模型选择的计算细节，这些内容尚未验证。 作者将方法应用于未滤波 EEG，报告发现了具有偏好性频谱特征的低复杂度源，并称提取源的可解释性优于相关方法。该结论的评估前提仅明确到未滤波 EEG 分解；摘要未给出数据集、被试数量、通道配置、对照方法名称或定量指标，因此不能据此判断改善幅度，也不能推断其在 BCI 解码或跨被试任务中的有效性。 阅读与复现时需重点核对：潜在源独立性的建模含义、源数量与复杂度如何被自动确定，以及可解释性与频谱特征采用何种评估标准。实验协议、消融及统计信息尚未验证；实现条件与计算成本也需从全文进一步确认。

    阅读价值：值得阅读其如何以近似贝叶斯分析自动选择潜在动力系统的数量与复杂度，并核对作者报告的未滤波 EEG 源分解可解释性优势及其评估依据。

1月1日周二
  1. OpenReview · State space models74

    用于高速公路行程时间预测的状态空间神经网络

    基于摘要分析。本文研究高速公路行程时间预测中可观测交通量之间复杂的非线性时空关系，基于该问题的状态空间表述推导递归状态空间神经网络（SSNN）。其主要贡献是以内部状态建模交通动态，并通过分析状态与权重配置构建 Reduced SSNN，在缩减参数的同时保持预测性能。 机制与结果：SSNN 面向实际经历的行程时间预测，而非 EEG 或 BCI 任务。作者报告，模型明显优于当时的实践方法，预测残差近似服从零均值正态分布，通常处于真实预期行程时间的 10% 范围内；摘要未明确对应基线、数据划分及误差计算细节，不能将这一表述改写为 Accuracy 或固定误差上限。作者还报告，内部状态与权重分析显示模型形成了与底层交通过程密切相关的内部表征，据此剔除不显著参数；Reduced SSNN 保留 63 个可调权重，模型规模减少 72%，且预测性能未下降。上述结果均限于摘要所述交通预测评估，实验协议、消融及统计信息尚未验证。 复现需核对：交通数据来源、输入变量、采样间隔、预测时域、训练与测试划分、状态更新形式、训练目标，以及参数筛减准则。摘要不足以确认该 SSNN 与现代同名状态空间模型的具体结构关系。 平台推测（待验证）：迁移假设是，递归状态表征和基于内部分析的参数缩减可能用于 EEG 时序预测中的动态建模与小模型设计。可借鉴状态更新与缩减思路，但须改造交通输入、预测目标及状态解释方式；原方法依赖哪些时空观测、监督信号和训练规模仍需全文核对。EEG 的低信噪比、跨被试差异、通道变化和小数据可能使状态解释及参数重要性不稳定。一个可检验的小实验是在固定被试内划分下比较完整模型与缩减模型的 EEG 短时预测误差及参数量，检验压缩能否保持泛化性能。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是以状态空间建模组织非线性时空预测，并依据内部状态与权重分析缩减模型的思路；其交通预测效果由作者报告，对 EEG 的适用性尚未验证。