跳到正文

算法、任务与模态

Explainable AI 最新动态

Explainable AI 研究索引；按可核对的标签归档，不以热度评价质量。

23 条精选近 30 天 20 条共收录 31 条

更新

精选归档 · 第 2 页

9月19日周五第 21–23 条
  1. OpenReview · EEG71

    stLaBraM：采用因子化时空片段嵌入进行自监督学习的可解释 EEG 基础模型

    基于摘要分析。该研究针对 EEG 基础模型在自监督掩码建模中难以兼顾性能与可解释性的问题，提出 stLaBraM，在 patch embedding 模块中引入可解释的空间与时间滤波，以改善 EEG 表征学习，并分析与掩码建模相关的神经源特征。 机制与创新：标题将方法概括为因子化时空片段嵌入，摘要明确的改动集中在空间、时间滤波及其可解释性，而非仅报告下游分类性能。作者将原始 LaBraM 作为对照，讨论自监督预训练的重建损失及 masked language model（MLM）表现。因子化的具体实现、滤波器约束、掩码策略、重建目标和损失形式尚未验证。 结果：作者报告，相较 LaBraM，该方法在自监督预训练中显著降低重建损失，并在标准 EEG 分类基准上取得更好的表现；摘要未提供数据集名称、评价指标、数值、数据划分或被试内、跨被试等协议，因此目前不能判断增益幅度及其适用范围。作者还报告，模型能够提供与自监督掩码建模相关的神经源二阶动力学性质和皮层位置的解释，但这些解释的计算方式、定位依据与验证程序尚未明确。 验证与复现：阅读全文时应重点核对时空滤波如何分解、如何从滤波器得到神经源解释，以及预训练数据、模型规模和下游评估条件是否与 LaBraM 对齐。还需核对重建损失改善与分类增益之间的关系，以及解释结果对被试差异、通道配置和噪声的稳定性。实验协议、消融及统计信息尚未验证，代码、权重和复现条件亦未由所给材料确认；摘要中的临床应用动机不能视为已完成临床验证。

    阅读价值：值得阅读的具体原因是其将可解释的空间与时间滤波引入 EEG 基础模型的 patch embedding，并以 LaBraM 为对照讨论重建与分类表现；性能增益及神经源解释的可靠性仍需全文验证。

9月17日周三
  1. OpenReview · State space models73

    DyBraSS：基于状态空间模型的动态脑状态建模

    基于摘要分析。该研究针对静息态 fMRI（rs-fMRI）中反复出现的连接模式及其动态转换，提出结构化状态空间模型 DyBraSS，将空间模式与时间动态纳入统一建模框架，旨在改善脑区兴趣区（ROI）层面的建模能力与可解释性。 核心机制是基于聚类的全局聚合模块：在每次局部更新中整合所有脑区的信息，以保留脑网络拓扑，并将随时间演化的脑状态表示为可解释的簇。作者将现有方法的局限概括为未能保留脑空间结构，以及时间建模未考虑共同演化的空间模式。摘要尚未说明拓扑如何编码、聚类如何学习、状态转移与聚合如何耦合，也未提供损失函数、训练及推理细节。 作者报告，在多个 fMRI 数据集的诊断任务上，DyBraSS 在多种指标下持续优于其采用的先进基线；个体与群体层面的脑状态分析也与已知神经生物学改变相符。摘要未给出数据集名称、样本规模、诊断类别、划分协议、基线名称或具体指标数值，因此不能据此判断跨被试或跨数据集泛化能力，也不能将诊断结果视为临床有效性验证。实验协议、消融及统计信息尚未验证；复现还需核对 ROI 定义、预处理、拓扑构建和实现可用性。 平台推测（待验证）：其“局部更新结合全局空间聚合”的机制可能为 EEG 中空间关系与时间动态协同建模提供参考，但这是迁移假设，而非已验证的 BCI 效果。原方法依赖多脑区 rs-fMRI 时序及空间拓扑，训练监督形式与所需数据规模尚不明确；迁移时可考虑复用状态空间建模和聚合思路，但需改造 EEG 通道或源空间节点的拓扑、时间尺度及状态解释。低信噪比、体积传导、跨被试差异、通道变化和小数据可能使聚类捕捉伪迹而非稳定状态。一个可检验的小实验是在固定划分的 EEG 任务中，对比基础 SSM 与加入聚类式全局聚合的版本，核对任务表现及聚类稳定性。相关 EEG 工作尚未检索确认。

    阅读价值：值得关注其通过聚类式全局聚合将 ROI 局部更新与动态脑网络模式联系起来的机制，但诊断优势及脑状态解释的可靠性仍需结合全文实验协议核对。

1月16日周二
  1. OpenReview · Representation learning76

    NfgTransformer：标准式博弈的等变表示学习

    基于摘要分析。本文研究标准式博弈（Normal-form games，NFGs）的神经网络表示，核心问题是：策略重新编号不改变博弈本身，但模型应随策略置换相应变换其表示或输出。作者提出利用这一等变性的 NfgTransformer，以统一的 NFG 表示支持多种博弈论任务。 机制与贡献：摘要将策略置换等变性作为架构的归纳偏置，而非将策略排列视为具有固定语义的输入顺序。这一区分关注等变性而非单纯的不变性：博弈意义保持一致，策略相关表示仍需与重新编号对应。具体输入编码、注意力结构、等变性实现方式、损失函数与训练流程尚未验证。 结果与证据：作者报告，该方法在均衡求解、偏离收益估计（deviation gain estimation）与排序等任务中达到最先进性能，并称模型具有可解释性和多用途性。摘要未提供数据来源、博弈规模、训练与测试划分、对照基线、指标或具体数值，因此这些性能主张的适用范围，以及实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可借鉴之处是依据任务的真实对称性设计表示，但策略重新编号的等价性不能直接推广为 EEG 通道任意置换的等价性，因为通道通常具有电极位置和生理意义。是否能迁移到 EEG/BCI，需先确认对应的数据结构与对称性假设；现有材料不足以支持具体迁移方案或效果判断，相关 EEG 工作尚未检索确认。复现首先需要核对全文中的博弈生成或采样方式、监督信号、评估协议及实现可获得性。

    阅读价值：值得阅读其如何将策略置换等变性纳入统一的博弈表示，并核对该归纳偏置在均衡求解、偏离收益估计与排序任务中的实际贡献；摘要中的性能与可解释性主张尚需全文验证。