外部全模态嵌入评估回答不确定性
先了解这件事
基于摘要分析。arXiv:2610.16933提出模型无关框架,以外部全模态嵌入衡量思维链与输入的关联及内部一致性。不访问被评估模型的logits、隐藏状态或梯度,也不追加其推理,但需辅助模型分段;聚合分数需带标签校准集。 作者报告:在UNO-Bench的一个闭源、一个开放模型上,相对self-consistency收益较小,闭源结果较一致,开放结果不一致。几何信号划分内平均秩相关为0.91–0.94,彼此冗余但与答案离散度互补,可靠性依赖生成器与模态;校准集可小至25例,但较预先固定单一信号收益有限。 本次新增摘要证据,未提供可核对的版本变更。模型名称、数据划分、具体指标及统计显著性尚未验证。平台分析:无需追加目标模型推理不代表无额外成本,25例不能泛化为通用要求;该成果并非EEG解码研究,BCI有效性尚未验证。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- arXiv · 学习目标与优化精选通过外部全模态嵌入估计全模态大语言模型的不确定性
基于摘要分析。本文研究全模态大语言模型(OLLMs)的不确定性量化,提出利用外部全模态嵌入评估 Chain-of-Thought 回答的模型无关框架,衡量推理与多模态输入的关联依据及推理内部的一致性。主要贡献是一组置信度信号及其可靠性条件的经验分析,而非单一估计器。 机制与成本:框架不需要被评估模型的 logits、隐藏状态或梯度,也不需要再次调用该模型推理;但仍需辅助模型对推理轨迹分段,聚合分数还需要带标签的校准集。因此,“无需追加被评估模型推理”不等于无需额外计算或监督。具体嵌入模型、分段方法、几何分数定义与聚合形式尚未验证。 作者报告,几何分数之间高度冗余,划分内部的平均秩相关系数为 0.91–0.94,但与答案离散度基线具有较强互补性,其可靠性依赖生成器与输入模态。作者报告,聚合分数的校准集可小至 25 个样例,但相较于预先固定一个信号,该校准集带来的收益有限;此结果不应解读为所有任务均仅需 25 个样例。 在 UNO-Bench 上,作者使用一个闭源模型和一个开放模型评估,报告相对 self-consistency 的收益较小:闭源生成器上的改善较一致,开放生成器上的结果则不一致;与 self-verbalisation 和内部状态基线相比具有竞争力,尤其是在开放式全模态问题上。摘要未提供具体性能数值,模型名称、数据划分、评价指标、消融及统计信息尚未验证。 本文主要研究多模态语言模型回答的置信度,而非 EEG 解码或 BCI。现有材料不足以建立其几何置信度信号与神经信号解码误差的具体对应关系,不能据此推断 BCI 有效性;已有 EEG 相关工作尚未检索确认。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。