通过模型置信度的反事实解释改善模型理解与信任

基于摘要分析。本文研究人机交互中如何解释 AI 模型的置信度，而不只是向用户展示置信度分数，提出基于反事实样例和反事实空间可视化的两种解释方法。作者报告，在人类被试研究中，置信度的反事实解释有助于用户更好地理解并信任模型预测；摘要未提供任务、被试人数、对照条件、评价指标或效应大小。 核心思路是把置信度从单纯的沟通信号变成可解释对象：通过反事实样例或反事实空间的展示，帮助用户理解模型置信度。摘要未说明反事实如何生成、允许改变哪些特征、如何约束样例有效性，以及模型置信度的定义与校准方式，因此不能据此推断具体优化目标或实现结构。实验协议、消融及统计信息尚未验证；还需核对“理解”与“信任”的测量方式，并区分信任提升与信任是否恰当地匹配模型可靠性。 平台推测（待验证）：其与 BCI 的潜在对应在于解释解码器置信度，辅助用户理解系统何时可靠，而非直接提高 EEG 解码性能。假设能够获得解码器的置信度输出，并在受约束的输入或特征空间中构造有意义的反事实，可复用反事实展示思路；反事实生成约束与可视化方式则需适配 EEG。低信噪比、通道变化、跨被试差异及小数据可能使反事实反映噪声或模型不稳定性，而非可解释的信号变化。一个可检验的小实验是在固定 EEG 解码任务与模型下，对比仅展示置信度和增加反事实解释时，用户对模型错误的识别及依赖是否更恰当，同时检验反事实的信号合理性。已有 EEG 相关工作尚未检索确认。