跳到正文

算法、任务与模态

Explainable AI 最新动态

Explainable AI 研究索引；按可核对的标签归档，不以热度评价质量。

324 条精选近 30 天 64 条共收录 495 条

更新

精选归档 · 第 17 页

1月1日周三第 321–324 条
  1. OpenReview · State space models75

    Graph-Sparse LDA：具有结构化稀疏性的主题模型

    基于摘要分析。该研究针对高维词空间中主题难以解释的问题，提出层次主题模型 Graph-Sparse LDA，利用词之间的关系（例如本体所编码的关系），以图中的少量潜在概念词解释观测词并概括主题。原论文主要研究对象是主题建模及其在生物医学数据上的应用，而非 EEG 解码或 BCI。 核心机制是让结构化知识参与主题表示：主题摘要不只依赖观测词的稀疏选择，还通过底层关系图中的潜在概念词组织解释。摘要指出，即使采用已有稀疏技术，高维空间中的主题仍可能难以理解；该方法的贡献在于结合关系结构与稀疏概念摘要。具体概率生成过程、稀疏约束、推断算法以及对关系图的要求尚未验证。 作者报告，在两个真实世界生物医学数据集上，Graph-Sparse LDA 得到了稀疏且可解释的摘要，同时预测性能与当时先进方法相当。摘要未提供数据集名称、样本规模、预测任务、指标、划分方式或对照方法，因此无法量化性能差异，也不能据此判断可解释性的评估强度。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 特征能被转换为离散事件或词项，并具有可信的特征关系图，该机制可能用于探索可解释的潜在活动模式，而非直接替代连续信号解码器。假设其依赖的词项表示和关系图能够保留任务信息，可复用概念摘要思路，但需改造 EEG 特征编码与图构建。低信噪比、跨被试差异、通道变化及小数据可能导致离散化丢失信息或图先验失配。一个小规模可证伪实验是固定同一 EEG 特征表示与划分协议，对比普通 LDA、Graph-Sparse LDA 及打乱关系图的版本，分别检查下游预测与主题稳定性。已有 EEG 相关工作尚未检索确认，原领域结果不构成 BCI 有效性的证据。

    阅读价值：值得阅读的具体原因是其将词间关系图引入主题模型，以少量潜在概念词概括高维观测词；摘要中的可解释性与预测性能结论仍需结合全文实验核对。

1月1日周二
  1. OpenReview · State space models76

    决策理论规划中的策略解释与模型细化

    基于摘要分析。本学位论文研究不确定性下序贯决策的策略解释与模型细化：先解释 Markov Decision Processes（MDPs）的最优策略，再将专家反馈转化为参数约束，修正 Bayesian networks 和 MDPs，使重新计算的策略符合专家意见。主要贡献是把策略推荐的解释与决策模型的迭代修正联系起来，而非提出神经信号解码方法。 策略解释需要处理随机效应、可能冲突的多个目标以及行动的长期影响。作者提出领域无关的解释模板，以及确定完整论证策略推荐所需最少模板数量的过程。在该框架中，专家拒绝某项解释被视为生成该策略的模型存在不足的信号；但这种解释拒绝是否确实对应模型缺陷，需要结合具体应用核对。 模型细化方面，专家反馈被转换为模型参数上的非凸约束。对于 Bayesian networks，作者采用 Gibbs sampling 与 stochastic hill climbing 寻找满足约束的模型；对于 MDPs，则通过划分参数空间，使用交替线性优化学习能够产生符合专家反馈之策略的参数。摘要未给出约束的具体形式、优化收敛条件或计算成本。 论文还将解释与细化方法扩展到 Factored MDPs：以状态变量表示状态空间，并用 dynamic Bayesian networks 建模转移函数，以缓解大型问题中显式状态表示的组合膨胀。作者报告在本科生选课指导、失智症患者辅助洗手及制造业诊断三个领域开展了实证评估；摘要没有提供样本规模、对照基线或定量结果，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 BCI 系统另有基于 MDP 的辅助决策层，该框架可能用于解释行动推荐，并通过专家反馈修正决策模型；它并不直接解决 EEG 的低信噪比或跨被试解码问题。可复用部分是解释模板和反馈约束机制，需改造的是状态、动作、奖励及转移模型；神经信号状态估计误差和有限交互数据可能使约束不稳定或相互冲突。一个可检验的小实验是在固定解码器的离线辅助决策任务中，比较模型细化前后的专家约束满足率与任务回报，检验反馈一致性是否以任务性能下降为代价。相关 EEG/BCI 工作尚未检索确认。

    阅读价值：值得阅读的具体机制是将策略解释、专家异议与模型参数约束连接起来，并针对 Bayesian networks 和 MDPs 分别设计约束下的参数修正方法；其解释完整性及修正效果仍需结合全文实验核对。

1月1日周一
  1. OpenReview · EEG71

    用于生物信号分解的贝叶斯因子化线性高斯状态空间模型

    基于摘要分析。该研究旨在从单通道或多通道观测中提取潜在的独立动力系统，重点寻找一维子信号以提高分解的可解释性。其核心贡献是利用近似贝叶斯分析自动确定潜在动力系统的数量与适当复杂度，并偏好较简单的解释。 方法以 Bayesian Factorial Linear Gaussian State-Space Models 为建模框架，将观测信号的分解与潜在源的动态建模联系起来。摘要明确强调独立动力系统、一维子信号以及复杂度选择，但未提供状态转移与观测模型的具体形式、先验设定、近似推断算法或模型选择的计算细节，这些内容尚未验证。 作者将方法应用于未滤波 EEG，报告发现了具有偏好性频谱特征的低复杂度源，并称提取源的可解释性优于相关方法。该结论的评估前提仅明确到未滤波 EEG 分解；摘要未给出数据集、被试数量、通道配置、对照方法名称或定量指标，因此不能据此判断改善幅度，也不能推断其在 BCI 解码或跨被试任务中的有效性。 阅读与复现时需重点核对：潜在源独立性的建模含义、源数量与复杂度如何被自动确定，以及可解释性与频谱特征采用何种评估标准。实验协议、消融及统计信息尚未验证；实现条件与计算成本也需从全文进一步确认。

    阅读价值：值得阅读其如何以近似贝叶斯分析自动选择潜在动力系统的数量与复杂度，并核对作者报告的未滤波 EEG 源分解可解释性优势及其评估依据。

1月1日周二
  1. OpenReview · State space models74

    用于高速公路行程时间预测的状态空间神经网络

    基于摘要分析。本文研究高速公路行程时间预测中可观测交通量之间复杂的非线性时空关系，基于该问题的状态空间表述推导递归状态空间神经网络（SSNN）。其主要贡献是以内部状态建模交通动态，并通过分析状态与权重配置构建 Reduced SSNN，在缩减参数的同时保持预测性能。 机制与结果：SSNN 面向实际经历的行程时间预测，而非 EEG 或 BCI 任务。作者报告，模型明显优于当时的实践方法，预测残差近似服从零均值正态分布，通常处于真实预期行程时间的 10% 范围内；摘要未明确对应基线、数据划分及误差计算细节，不能将这一表述改写为 Accuracy 或固定误差上限。作者还报告，内部状态与权重分析显示模型形成了与底层交通过程密切相关的内部表征，据此剔除不显著参数；Reduced SSNN 保留 63 个可调权重，模型规模减少 72%，且预测性能未下降。上述结果均限于摘要所述交通预测评估，实验协议、消融及统计信息尚未验证。 复现需核对：交通数据来源、输入变量、采样间隔、预测时域、训练与测试划分、状态更新形式、训练目标，以及参数筛减准则。摘要不足以确认该 SSNN 与现代同名状态空间模型的具体结构关系。 平台推测（待验证）：迁移假设是，递归状态表征和基于内部分析的参数缩减可能用于 EEG 时序预测中的动态建模与小模型设计。可借鉴状态更新与缩减思路，但须改造交通输入、预测目标及状态解释方式；原方法依赖哪些时空观测、监督信号和训练规模仍需全文核对。EEG 的低信噪比、跨被试差异、通道变化和小数据可能使状态解释及参数重要性不稳定。一个可检验的小实验是在固定被试内划分下比较完整模型与缩减模型的 EEG 短时预测误差及参数量，检验压缩能否保持泛化性能。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是以状态空间建模组织非线性时空预测，并依据内部状态与权重分析缩减模型的思路；其交通预测效果由作者报告，对 EEG 的适用性尚未验证。