跳到正文
arXiv · 学习目标与优化· Tobias Braun; Nils Loose; Alexander Herzog; Virginia Ceccatelli; Marcus Rohrbach; Thomas Eisenbarth; Lorenzo Cavallaro·· 3 天前精选AI 评分76

U-Space:揭示语言模型不确定性何时产生及其原因

U-Space: Uncovering When and Why Uncertainty Arises in Language Models

AI 导读

基于摘要分析。该研究关注语言模型单次回答的可靠性,以及不确定性在推理过程中何时出现、如何变化,提出低维子空间 U-Space 与 token 级投影工具 U-Lens,将中间模型状态转化为可解释的不确定性表征。 核心机制是选取表达怀疑与确定性的语义锚点,将其 unembedding 方向映射回残差空间,再组合锚点之间的对比方向,形成正交基。U-Lens 将每个 token 的状态投影到这些基向量上,得到可直接检查的 token 级不确定性图,也可聚合为标量分数。摘要称该方法不需要正确性标签、重复生成或训练;具体锚点选择、映射步骤、投影位置及聚合规则尚未验证。 作者报告,在推理基准的标准评估及长度控制评估中,其置信度分数优于既有基线,并比监督式估计器具有更可靠的迁移表现。摘要未提供基准名称、模型范围、指标、具体数值或迁移划分,因此不能判断优势大小与适用边界。长度控制是重要核对项:它旨在检验预测能力是否来自不确定性相关信息,而非仅由输出长度解释。实验协议、消融及统计信息尚未验证。材料提供了代码链接,但实现完整性与复现条件尚未核查。 平台推测(待验证):该机制可启发 EEG 解码中的可解释置信度分析,但原方法依赖语言模型的语义锚点、unembedding 与逐 token 残差状态,不能直接视为 EEG 通用模块。迁移假设是解码器隐状态中存在可稳定分离的可靠性方向;可复用投影与轨迹分析思路,但需重新定义锚点、时间单位和聚合方式。低信噪比、通道变化、跨被试分布偏移及小数据可能使投影主要反映伪迹或被试身份。一个可证伪的小实验是在固定 EEG 解码器及独立数据划分下构建候选方向,比较其与最大预测概率对错误样本的区分能力,并检验跨被试稳定性。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其如何从残差空间构建可解释的不确定性子空间,以及长度控制评估能否区分不确定性信息与生成长度的预测作用;摘要中的性能与迁移结论尚需全文验证。

来源:arXiv · 学习目标与优化 · arxiv.org