用于 LLM 不确定性量化的释义感知评分保形预测
Conformal Prediction with Paraphrase-Aware Scoring for LLM Uncertainty Quantification
基于摘要分析。该研究针对 LLM 不确定性量化对语义保持改写不稳定的问题,提出释义感知评分框架:利用 LLM 隐藏状态训练轻量代理模型,并聚合多个释义版本的预测,构造逐标签非一致性分数,以改善保形预测在改写条件下的稳定性。 核心机制是将学习得到的代理评分与释义聚合接入保形校准。作者指出,在分数满足可交换性的条件下,校准保留边际覆盖保证;若仅测试数据被改写,还需要释义生成流程满足额外的分布对齐条件。该保证不能直接解读为任意改写、任意分布偏移下均有效,具体条件及其可检验性尚需全文核对。 作者在七个多项选择 QA 基准及多个模型家族上评估三种设置:normal 不改写校准集和测试集,fully reworded 同时改写两者,semi-reworded 仅改写测试集。作者报告,方法在这些设置下生成较紧凑的预测集,经验覆盖率通常接近名义目标,包括仅测试集改写的设置;摘要未给出具体覆盖率、预测集大小或基准名称。作者报告的消融结果表明,预测集大小的主要缩减来自学习得到的代理模型,而释义增强训练和推理时聚合进一步改善改写稳定性。 复现需核对代理模型的监督来源与训练划分、释义生成流程、聚合规则、校准样本构造及额外分布对齐条件。摘要提供了代码地址,但代码内容、实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可借鉴之处是通过任务含义保持的变换聚合评分,再进行保形校准;但自然语言释义不等同于 EEG 信号增强。若迁移至 EEG 分类,需要先验证增强是否保持类别语义,并改造特征代理与聚合模块;低信噪比、通道变化及跨被试差异可能破坏分数可交换性。可在固定被试内划分上,比较无增强、校准与测试均增强、仅测试增强三种条件下的经验覆盖率和预测集大小。已有 EEG 相关工作尚未检索确认。
值得核对其对测试集单独改写时覆盖保证的分布对齐条件,以及代理模型与释义聚合对预测集大小和稳定性的不同贡献。
来源:arXiv · 学习目标与优化 · arxiv.org