跳到正文

算法、任务与模态

Explainable AI 最新动态

Explainable AI 研究索引；按可核对的标签归档，不以热度评价质量。

3 条精选近 30 天 3 条共收录 3 条

更新

Explainable AI的精选

10月8日周四第 1–3 条
  1. Europe PMC · EEG 方法72

    基于全脑颅内 EEG 的隐式知觉决策信心特征的神经潜在表征

    基于摘要分析。本研究探讨在不要求显式信心报告的情况下，能否从全脑范围的 iEEG 中提取稳健的隐式知觉决策信心表征。作者结合互补的机器学习方法、可解释特征选择与降维分析，研究相关时空成分及低维神经轨迹。 技术路径上，研究先利用可解释特征选择识别与决策正确性、难度及速度相关的 iEEG 成分，再通过降维寻找潜在表征，并分析共享子空间中的神经轨迹。作者报告，尤其位于额叶皮层的关键时空成分能够区分这些与信心相关的特征，且可在不同运动模态间迁移；尽管不同分析方法和条件所识别的具体特征存在不一致，低维潜在表征仍表现出稳健性，共享子空间中的轨迹进一步增强了相关特征的可区分性。摘要未提供定量指标或对应的训练、测试划分，不能据此认定其已实现跨被试或跨会话泛化。 阅读价值在于区分“单个特征的一致性”与“潜在空间表征的稳健性”：表层特征随分析条件变化，并不必然意味着低维群体表征同样不稳定。不过，研究没有采集显式信心报告，因此正确性、难度和速度与隐式信心的对应关系及其操作化定义需要结合全文核对，不能将这些变量直接等同于主观信心。 被试数量、电极覆盖、任务设计、信号预处理、具体特征选择与降维算法、运动模态间迁移协议、统计检验及代码可用性尚未验证；实验协议、消融及统计信息尚未验证。其结论目前应限定于摘要描述的 iEEG 知觉决策分析，不能直接推广为头皮 EEG 或 BCI 解码效果。

    阅读价值：值得关注的是作者报告：不同方法与决策条件下筛选出的 iEEG 特征虽不一致，低维潜在表征及共享子空间中的神经轨迹却更稳健，为检验隐式决策信心的跨条件表征提供了具体线索。

  2. Europe PMC · EEG 方法71

    将试次级 EEG 变异提炼为参与者表征：ADHD 中的神经生理约束图学习

    该研究针对试次级 EEG 噪声与变异妨碍稳定个体表征提取的问题，提出神经生理约束的时空图注意力网络，用于分析有无 ADHD 的儿童及青少年的 Go/NoGo EEG，将试次信息提炼为参与者级表征。基于摘要分析，未取得论文全文。 方法结合 ERP 引导的时间窗、相位同步图先验，以及试次到参与者的迁移学习，使信息路由与表征几何成为可检验的分析对象。摘要未说明图的具体构建方式、时间窗定义、迁移学习的训练流程或损失形式，这些实现细节尚未验证。 作者报告，模型学到了可重复的注意力轨迹，但 ADHD 组与对照组在空间注意力分配上没有可靠差异；组别相关结构主要出现在紧凑的参与者级嵌入中，这些嵌入提炼了试次级变异，并保留了超出卷积表征的判别信息。作者还报告性能优于卷积神经网络对照，但摘要未给出任务指标、数值、数据划分或被试内／跨被试评估背景，因此不能量化提升或判断泛化范围。 其主要方法学价值在于，不仅比较预测表现，还追踪诊断相关信息在分析流程中的出现位置。空间注意力未呈现可靠组间差异，也意味着不能直接将注意力分配解释为 ADHD 特异性标记。参与者数量、采集与预处理流程、试次和参与者的划分关系、对照模型设置、消融及统计信息尚未验证；复现时需核对参与者级嵌入的构建与独立评估方式。摘要支持将其视为认知神经生理标记的研究框架，尚不足以认定其已具备临床诊断效用。

    阅读价值：值得阅读的具体原因是其将 ERP 时间窗、相位同步图先验与试次到参与者的迁移学习结合，并区分注意力分配与参与者表征中的组别信息；这些信息出现位置及其可重复性仍需通过全文和复现核对。

10月3日周六
  1. arXiv · 表征与预训练82

    定格于一帧：JEPA 世界模型的速度盲区

    基于摘要分析。本文研究 JEPA 世界模型以单帧嵌入作为预测目标时的速度可辨识性问题，提出三阶段诊断协议 RateIdent，以及将潜变量分为姿态编码和显式有限差分运动编码、并联合预测的 TI-JEPA。 核心机制：作者指出，在无运动模糊、图像仅由场景配置决定的渲染条件下，单帧无法区分同一配置下的不同速度，因此编码器也不能从该帧恢复速度。该论证针对特定观测生成条件，不宜直接推广至含运动模糊或其他运动线索的图像。TI-JEPA 通过有限差分引入时间变化信息，作者称其无需特权监督；具体差分对象、训练损失与 RateIdent 各阶段操作尚未验证。 作者报告，在 PushT、Reacher、Cube、TwoRoom 四个基准的官方检查点上，所有线性速度探针表现均处于或低于机会水平，而位置探针的 R² 约为 0.95。在线性探针协议之外能否提取速度，以及机会水平的定义，需核对正文。作者还报告，在三个具有物理动力学的环境中，TI-JEPA 相比匹配记忆基线，在到达目标并停止的规划任务上获得跨随机种子的显著改进：Pendulum 最终距离降低 55%（p=3.2×10^-10），CartPole 降低 64%（p=5.1×10^-15）。摘要称该结果在官方 ViT-Tiny 与 AdaLN-transformer 规模下得到复现；从头训练的真实 dm_control Reacher 图像实验中，分支分离程度约为具备记忆基线的 38 倍，但该指标定义尚未验证。相较相同模型规模的循环 RSSM 风格预测器，作者报告 TI-JEPA 在三个环境中的两个上达到或超过其 rollout 准确性，并保留姿态与运动的独立可探测性。实验划分、消融及统计信息尚未验证。 平台推测（待验证）：可检验的迁移假设是，将 EEG 的窗口状态与跨窗口变化显式分离，可能改善动态状态预测；但 EEG 并非配置到图像的确定性渲染，原文的不可辨识性论证不能直接迁移。可复用编码分离思路，需改造时间差分尺度与观测编码；低信噪比、被试差异、通道变化及小数据可能使差分分支放大噪声。小规模实验可在相同输入历史和参数预算下比较分离编码与记忆基线的下一窗口预测误差，并检验跨被试稳定性。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其单帧表征无法辨识速度的适用条件，并复现 TI-JEPA 相对匹配记忆基线的改进，以区分运动信息缺失与预测器能力不足。