跳到正文
OpenReview · Representation learning· Faizul Rakib Sayem; Shahana Ibrahim·· 2025-09-20精选AI 评分70

提示优化与子空间表示学习相结合的小样本分布外检测

Prompt Optimization Meets Subspace Representation Learning for Few-shot Out-of-Distribution Detection

AI 导读

基于摘要分析。本文研究视觉语言模型(VLMs)的小样本分布外(OOD)检测,提出基于 context optimization(CoOp)的框架,将提示调优与子空间表示学习结合,以利用特征嵌入中的判别信息,而非仅依赖 softmax 概率。 核心机制是将分布内(ID)特征投影到由提示向量张成的子空间,同时将与 ID 无关的特征投影到正交零空间,以增强 ID 与 OOD 的可分性。作者还提出端到端学习准则,兼顾 OOD 检测与 ID 分类;摘要未给出损失公式、投影构造及推理评分方式。其方法依赖具有丰富预训练特征的 VLM,并面向仅有少量 ID 样本的设置,但具体模型、训练数据规模及是否使用额外 OOD 数据尚未验证。 作者报告,真实世界数据集上的实验支持该方法的有效性;摘要未提供数据集名称、划分、对照方法、指标或数值,因此尚不能判断增益幅度及适用边界。实验协议、消融及统计信息尚未验证,复现还需核对提示初始化、可训练参数范围与检测阈值设置。 平台推测(待验证):可检验的迁移假设是,若 EEG 编码器的特征能够与类别文本提示对齐,提示张成的子空间或可用于区分已知任务类别与未知输入。可复用的是投影分解与联合优化思路;需改造 EEG 编码器、跨模态对齐和提示语义。低信噪比、跨被试偏移、通道差异及小样本可能使任务相关信号被错误投影到零空间,原领域结果不等于 BCI 有效性。一个小规模检验可在固定 EEG 编码器和相同少样本划分下,比较 softmax 基线与子空间评分,并将部分任务类别留作 OOD,分别评估 ID 分类及 OOD 检测。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其将提示调优与正交子空间分解结合的 OOD 检测机制,但具体增益、训练数据要求及向 EEG 迁移的可行性尚未验证。

来源:OpenReview · Representation learning · openreview.net