跳到正文
OpenReview · State space models·· 2022-05-05精选AI 评分70

深度学习函数从图像中学习到的特征空间中的决策边界与凸包

Decision Boundaries and Convex Hulls in the Feature Space that Deep Learning Functions Learn from Images

AI 导读

基于摘要分析。该研究关注图像分类模型学到的特征空间及其决策边界,提出分析该空间中区域划分与分类保证的方法和表述,并考察这些几何性质对像素空间的含义。主要研究对象是图像分类模型,而非 EEG 或 BCI。 研究以最后一个隐藏层的特征表示为切入点,试图补充对模型所学低维空间的理论与经验证据。作者研究特征空间中的定义域如何被划分,并识别能够保证特定分类结果的区域。作者报告,特征空间与像素空间中的决策边界几何排列存在显著差异,并据此讨论对抗脆弱性、图像变形、外推与分类歧义。摘要未说明差异的量化方式,也未展开标题中凸包的具体构造及其与分类保证的关系,不能据此补写定理或算法。 该分析依赖模型的隐藏特征表示与分类决策结构;适用模型范围、分类头假设、保证成立的条件,以及数据集、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 分类器具有可访问的末层特征和明确的分类头,可尝试复用其决策区域分析,检查跨被试特征偏移与分类歧义之间的关系;但特征空间几何结论不自动对应生理合理的 EEG 扰动。需改造或核对特征到信号空间的对应关系,并考虑低信噪比、通道变化及小样本导致的几何估计不稳定。一个可检验的小实验是在固定跨被试划分下,检验基于训练特征定义的区域归属是否与留出被试的分类错误相关。该方案不是论文已验证结果,已有 EEG 相关工作尚未检索确认。

阅读价值

该研究从末层隐藏特征空间的决策边界几何出发,为理解图像分类中的对抗脆弱性与分类歧义提供分析视角;具体保证的适用条件及实验证据仍需全文核对。

来源:OpenReview · State space models · openreview.net