文本背后是谁?鲁棒的模型作者归因
Who's Behind the Text? Robust Model Authorship Attribution
基于摘要分析。本文研究大语言模型生成文本的来源模型归因,重点应对生成领域、写作设置及模型版本变化导致的分布偏移。作者提出 Authorship Tracing via Likelihood-based Attribution of Sources(ATLAS),并引入面向实际分布外场景的 MAABench。 ATLAS 不直接预测文本的来源标签,而是学习各来源模型家族条件下的文本生成方式,再比较待归因文本在不同来源条件下的似然。其在 token 级聚合似然证据,并通过裁剪限制单个 token 对最终决策的支配作用。摘要未提供条件建模的具体实现、训练目标细节或裁剪规则。 作者报告,ATLAS 在 MAABench 和 OpenTuringBench 上持续优于既有基线;其中,在 MAABench 的生成领域与模型版本同时变化的设置下,Accuracy 为 74.27%,比最强基线高 9.00 个百分点。作者还将其用于识别模型蒸馏的教师来源,报告在所评估的每个蒸馏模型上均找回已知教师。评估模型数量、候选来源范围、数据划分、基线配置、消融及统计信息尚未验证,因此这些结果不能外推为对任意未知来源的可靠识别。 平台推测(待验证):来源条件建模与限制局部证据主导的思路,可能为 EEG 分布偏移下的条件似然判别提供方法假设,但本文依赖文本 token、已知来源家族及其归属信息,并非 EEG 或 BCI 研究。迁移时需重建 EEG 信号表示与条件模型;低信噪比、通道差异和小样本可能使似然更受被试或设备特征影响,裁剪也可能压低真正有用的稀疏信号。若开展初步检验,可在固定 EEG 数据和跨被试划分下,对照直接分类与条件似然判别,并仅改变是否裁剪局部证据,检验泛化表现是否改善。相关 EEG 工作尚未检索确认。
值得核对的是以来源条件文本建模替代直接来源分类、并裁剪 token 级似然证据的机制,以及作者报告的领域与模型版本同时变化时的归因表现,但其向 EEG 的迁移价值尚未验证。
来源:arXiv · 泛化与分布偏移 · arxiv.org