跳到正文
arXiv · 学习目标与优化· Kevin Kasa; Scott C. Lowe; Graham W. Taylor·· 1 天前精选AI 评分74

利用集合学习改进长尾数据上的集合值分类器

Using Set Learning to Improve Set-Valued Classifiers on Long-tailed Data

AI 导读

基于摘要分析。本文研究长尾与类别不平衡条件下的集合值分类(SVC):模型为每个输入输出大小可变的类别集合,以表达预测不确定性。核心贡献是改进基于训练样本集合的 odd-K-out(OKO)损失,并考察训练策略如何影响后续 SVC,尤其是对各类别赋予相同权重的宏平均评估表现。 常见 SVC 在训练后通过校准构建,本文则将关注点前移至神经网络训练阶段,比较 label smoothing、类别平衡策略,以及对批次内样本集合进行联合学习的损失。摘要未给出 OKO 的具体损失形式、集合构造规则或算法修改细节。作者报告,其修改提高了样本效率,并将相对于标准交叉熵训练的计算开销从 3.2 倍降至 1.36 倍;硬件、计量口径及对应训练配置尚未验证。 作者报告,在高度长尾数据集上,改进 OKO 提升了 top-k、average-k 与 conformal prediction 等多种方法的宏平均准确率,同时保持有竞争力的微平均准确率,且预测集合大小未显著增加。摘要未列出数据集名称、划分、具体分数及统计检验;实验协议、消融及统计信息尚未验证。复现时需核对不同方法的集合大小或覆盖率约束,避免将不同输出规模下的准确率直接比较。 平台推测(待验证):其可迁移机制是通过训练阶段的样本集合组织改善少数类别学习,而非提出 EEG 专用模型。若用于类别不平衡的 EEG 分类,可尝试复用集合式损失,并根据试次标签与被试划分改造集合采样;低信噪比、少数类样本不足及跨被试分布差异可能使收益失效。一个小规模可证伪实验是在固定 Cross-subject 划分、相同 EEG 编码器与校准协议下,对比交叉熵、类别平衡训练和改进 OKO,联合报告宏平均准确率、微平均准确率、覆盖率、平均集合大小及训练开销。该方案不是本文已验证结果;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其集合式训练如何改善长尾类别的集合值预测:作者报告改进 OKO 在不显著扩大预测集合的情况下提升宏平均准确率,但具体评估协议与 EEG 适用性尚未验证。

来源:arXiv · 学习目标与优化 · arxiv.org