超越“漂绿”:LLM 的生态友好决策能否经受压力?
Beyond the greenwash: do LLMs' ecologically sound decisions hold up under pressure?
基于摘要分析。本文研究 LLM 在压力情境下能否保持生态友好的决策倾向,并检验行为评估能否区分权重中形成的倾向与提示诱导的表面表现。作者将面向生物系统的相关偏向称为 bioalignment,构建已知训练剂量的校准阶梯,以考察行为稳健性与训练投入之间的关系。 研究在同一个 30B mixture-of-experts 基础模型上,使用涉及人类、生物圈及 AI 福祉的语料,按训练配方设置三个不同剂量的继续预训练(CPT)组,并以未经该继续预训练的基础模型作为锚点。作者称各组保持了模型能力且均已公开发布;具体能力评估、训练剂量定义与发布内容尚未验证。 作者报告,在不可逆决策场景组成的操作压力阶梯上,基础模型在尾部场景中的背离率为 64–77%,breaking-rate AUC 为 0.250;三个 CPT 组的 AUC 为 0.004–0.086。这里的 AUC 属于背离率评估,不能等同于分类任务的 ROC AUC。作者还报告,CPT 组之间出现“过度植入反转”:训练剂量最高的组反而最容易背离;该排序在自由文本推理、评估轴解耦及抵抗提示诱导的表面人格等条件下复现。 在要求模型“口头环保、行动务实”的系统提示下,作者报告基础模型的 AUC 从 0.250 升至 0.973,而最稳健 CPT 组从 0.004 升至 0.068。作者据此认为,该行为指标能抵抗提示层面的伪装,却不能据得分推断权重中倾向的植入深度。该结论仍限于摘要所述模型与情境;场景构造、AUC 计算、剂量控制、消融及统计信息尚未验证。本文主要对象是 LLM 决策偏向及其评估,不是神经信号建模;现有材料不足以提出具体 EEG/BCI 迁移结论。
该研究通过同一基础模型上的分级继续预训练,将压力情境中的行为稳健性与训练剂量进行对照,值得核查其“行为得分不能代表倾向植入深度”的证据,但尚不支持 EEG 或 BCI 有效性判断。
来源:arXiv · 架构与算子 · arxiv.org