跳到正文
OpenReview · Representation learning· Faizul Rakib Sayem; Shahana Ibrahim·· 2026-05-30精选AI 评分73

面向少样本分布外检测的提示优化与子空间表示学习

Prompt Optimization Meets Subspace Representation Learning for Few-shot Out-of-Distribution Detection

AI 导读

基于摘要分析。本文研究视觉语言模型(VLMs)的少样本分布外(OOD)检测:在仅有少量分布内(ID)样本时,如何利用预训练视觉特征的几何结构,提高 ID 与 OOD 输入的可分性。作者提出 geometry-aware context optimization framework,将子空间表示学习与提示调优结合,而非仅依赖提示学习后的 softmax 输出。 核心机制是将 ID 相关特征投影到提示向量张成的子空间,同时通过正交零空间投影处理 ID 无关成分,以增强提示向量的判别能力。作者进一步设计几何正则化学习准则,使该框架能够端到端训练,并兼顾 OOD 检测与 ID 分类。摘要称该框架可结合多种现有 context optimization 方法,补充其 softmax-based OOD 检测器;具体损失形式、特征分解方式和测试时评分规则尚未验证。 作者报告在多个真实世界数据集上的实验支持该方法的有效性,但摘要未列出数据集、少样本数量、ID/OOD 划分、对照方法或数值指标,因此尚不能判断收益大小与适用边界。实验协议、消融及统计信息尚未验证;复现还需核对所用 VLM、提示参数化方式、几何正则项及实现是否公开。 平台推测(待验证):其可迁移线索是利用已知类别所张成的子空间及其正交补,辅助识别未知输入,而非已证实的 EEG/BCI 效果。迁移假设依赖于 EEG 编码器产生具有稳定类别几何结构的特征;可考虑复用投影与几何约束思想,但提示向量需改造为适配 EEG 的类别表示,检测评分也需重新验证。低信噪比、跨被试差异、通道变化及小样本估计误差都可能使子空间捕获非任务因素。一个可检验的小实验是在固定 EEG 编码器和相同少样本划分下,将部分任务类别留作 OOD,对比仅用 softmax 与加入子空间机制的检测和 ID 分类表现,并单独检查跨被试条件。相关 EEG 工作尚未检索确认。

阅读价值

值得核对提示向量子空间与正交零空间投影能否为现有 softmax-based OOD 检测器提供互补信息,但摘要未提供定量结果,其向 EEG 的迁移价值尚未验证。

来源:OpenReview · Representation learning · openreview.net