HalluGuard：用于缓解检索增强生成幻觉的证据支撑型小型推理模型

基于摘要分析。HalluGuard 面向检索增强生成（RAG）中的幻觉检测，以一个 4B 参数的小型推理模型（SRM）判断文档—声明对是否有证据支撑，并生成基于证据的判定理由；其主要贡献是将合成训练数据与偏好优化结合，将大模型的推理能力蒸馏到较小模型中。 方法上，作者从 FineWeb 构建领域无关的合成数据，经多阶段筛选与数据重构，形成有证据支撑及存在幻觉的声明，再使用 Odds Ratio Preference Optimization 进行基于偏好的微调。摘要未说明具体骨干模型、合成数据规模、偏好对构造细节及推理成本，这些内容尚未验证。 作者报告，在 LLM-AggreFact benchmark 的 RAGTruth 子集上，HalluGuard 的 Balanced Accuracy（BAcc）为 84.0%，与 MiniCheck（7B，84.0%）相当，高于 Granite Guardian 3.3（8B，82.2%），参数规模约为两者的一半。在完整 LLM-AggreFact benchmark 上，作者报告 HalluGuard 的 BAcc 为 75.7%，接近 GPT-4o 的 75.9%。子集与完整基准属于不同评估范围，不能混为同一协议比较；上述结果也不能直接等同于端到端 RAG 系统的幻觉减少幅度。 复现时需核对数据划分、训练数据与评估集的重叠控制、基线推理配置、解释质量评估以及消融和统计信息；这些事项均尚未验证。作者计划在论文被接收后，以 Apache 2.0 发布模型和数据，不能据此认定已经接收或开放权重。研究对象是文本证据与声明的一致性，材料未提供 EEG 或 BCI 验证，也未建立可直接迁移到神经信号建模的机制对应关系。