增量置换特征重要性(iPFI):面向数据流的在线解释
Incremental permutation feature importance (iPFI): towards online explanations on data streams
基于摘要分析。本文研究数据持续到达、模型增量更新时,如何高效估计全局特征重要性,提出模型无关算法 iPFI,将置换特征重要性(PFI)估计扩展到包括概念漂移在内的动态建模场景。 PFI 通过置换特征、对其进行边缘化来衡量特征对预测的贡献。本文的核心贡献是增量估计这一重要性度量,而非提出新的预测模型。作者报告,为近似质量提供了期望与方差层面的理论保证,并在包含与不包含概念漂移的基准数据流上开展多项实验。摘要未给出具体更新公式、采样或历史数据保留策略,也未提供数据集名称、对照基线和量化结果;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 在线解码器能够逐步输出预测并获得相应监督反馈,iPFI 可能用于跟踪通道或频带等输入特征的重要性变化。可复用的是模型无关的增量重要性估计思路;需核对并改造的是特征置换单位、反馈延迟处理和漂移条件下的更新策略。EEG 低信噪比、通道及频带间相关性可能使边缘置换产生偏离真实分布的输入,重要性变化也不能直接解释为神经机制变化。一个可检验的小实验是在固定时序划分的 EEG 数据流上,对照增量 iPFI 与定期批量 PFI,比较重要性估计的一致性、计算开销及其对受控特征扰动的响应;被试内与跨会话条件应分别报告。已有 EEG 相关工作尚未检索确认。
值得关注的是 iPFI 如何将全局特征重要性估计扩展到含概念漂移的数据流,并提供期望与方差层面的近似保证;其在 EEG 在线解释中的有效性尚未验证。
来源:OpenReview · Representation learning · openreview.net