通过调制表征学习提升开放集识别性能
Boosting Open Set Recognition Performance through Modulated Representation Learning
基于摘要分析。研究针对开放集识别(OSR)中识别训练类别之外新语义类别的问题,提出以动态温度调度替代固定 logits 温度,使表征学习在实例级特征与类别特异性特征之间逐步转换;其中包括作者提出的 negative cosine schedule。 机制上,作者描述调度在训练初期侧重较少邻居以形成粗略决策边界,随后逐渐关注更多邻居以平滑边界,期望获得更丰富、泛化能力更强的表征。摘要未给出温度函数、取值范围、邻居定义及其与各损失的具体作用关系,这些实现细节尚未验证。与引入正则化或 mix-up 等辅助负样本的路径相比,作者称该调度可并入现有 OSR 损失且不增加计算开销;开销核算范围仍需正文确认。 作者报告,在采用 cross-entropy、contrastive 和 ARPL 损失的多个基线上,新调度在多数情况下同时改善开放集与闭集性能,尤其在更困难的 semantic shift benchmarks 上。摘要未提供数据集、已知类与未知类划分、评价指标或具体数值,因此不能判断提升幅度,也不能比较不同协议下的效果;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务需要拒识训练中未覆盖的语义类别,动态温度可能用于调节表征的局部区分与类内聚合。可复用的是温度调度,需改造的是 EEG 编码器、邻居构造及未知类评估协议;低信噪比、小样本和跨被试差异可能使邻居关系不可靠,并将被试偏移误判为新类别。一个可检验的小实验是在固定 EEG 编码器、损失和类别留出划分下比较固定温度与该调度,分别评估已知类分类和未知类拒识,并核对训练开销。该迁移假设尚无材料内的 EEG 证据,已有 EEG 相关工作尚未检索确认。
值得核对温度调度能否作为不同 OSR 损失的低成本改造提升未知类识别,尤其需复现作者报告的语义偏移场景收益及闭集性能变化。
来源:OpenReview · Representation learning · openreview.net