相同任务,不同表示:测试大语言模型的鲁棒性
Same Task, Different Representation: Testing Robustness in Large Language Models
基于摘要分析。本文研究大语言模型在常见任务上的成功究竟反映任务理解,还是对常见表示形式的熟悉,并提出 Paired Representation Robustness(PRR)评估协议:将模型在原生表示下已能解决的任务转换为陌生但逻辑等价的表示,检查其解题能力能否保持。 评估覆盖两个领域:布尔逻辑由 Python 代码转换为 Minecraft Redstone 电路;国际象棋战术由标准记谱转换为合成密码记谱 Syn-Chess。按照摘要描述,转换前后的底层任务不变,模型会获得替代表示的完整规则。其核心对照是在保持任务逻辑不变的条件下改变表达形式,而非直接比较不同任务的得分。 作者报告,gpt-5.6-sol 在 Python 表示下解决了 98.8% 的逻辑题,而对相同题目的 Redstone 表示仅解决 1.01%;在强制将杀棋题中,其标准记谱下正确识别第一步的比例为 86.6%,Syn-Chess 条件下报告的对应比例为 0.69%。这些数值仅对应摘要所述的配对表示条件;样本规模、题目来源、配对筛选方式、提示配置,以及“保留”表现的具体分母和计算方式尚未验证,不宜进一步推算能力下降幅度。 作者据此认为,高基准表现可能强烈依赖任务呈现形式。需要核对的关键事项包括转换是否严格保持逻辑等价、替代规则的呈现与上下文负担、输出解析与判定方式,以及表示转换困难和底层推理困难能否区分。实验协议、消融及统计信息尚未验证。本文直接研究对象是大语言模型的表示鲁棒性,不构成 EEG 或 BCI 有效性的证据;现有材料不足以提出具体的神经信号方法迁移方案。
其阅读价值在于用逻辑等价的配对表示检验任务表现是否依赖熟悉的表达形式,但大幅性能差距的解释仍需结合转换正确性、提示与评估协议核对。
来源:OpenReview · Representation learning · openreview.net