预训练塑造谱结构：基于架构与策略条件的基础模型 OOD 鲁棒性预测

基于摘要分析。本文研究在尚无目标域数据时，能否仅凭基础模型的预训练权重预测分布外（OOD）鲁棒性，核心贡献是将权重谱诊断按架构与预训练策略进行条件化，而非对所有模型统一使用同一统计量。 作者提出，架构影响信息在权重矩阵中的存储方式，预训练策略决定训练所奖励的特征，两者共同塑造与 OOD 鲁棒性相关的谱几何。作者报告给出了 OOD Accuracy 差距受源域表征集中程度约束的理论界，并以仅从预训练权重计算的统计量作为集中程度的代理。该代理与鲁棒性的关联方向会在不同架构家族间反转；作者将“架构 × 预训练策略”组合称为 cell，并报告关联方向在其测试的这一最细分组内保持稳定。具体谱统计量、理论假设及按 cell 选择指标的方法尚未验证。 作者报告，在覆盖 7 种模态的 116 个模型上，汇总使用单一统计量只能较弱地排序 OOD 鲁棒性，原因是不同 cell 的相反关联方向相互抵消；在 cell 内使用为其选择的统计量，可在样本内正确排序 92% 的模型对。这是样本内模型对排序结果，不等同于未见模型或目标域上的预测准确率。对于评估矩阵之外的模型家族，作者称在 OOD 评估前记录了 cell、指标及方向，随后在 EEG、基因组和蛋白质案例中预测方向均得到支持；各案例数量、数据集与划分尚未验证。 作者还报告，对谱集中程度进行干预可将 OOD 差距缩小 24%，同时保留 87.5% 的域内（ID）表现；摘要未明确干预方式、对照基线及 ID 保留率的计算口径，不能将这些数值直接解读为 EEG 性能提升。其潜在用途是仅凭已发布权重进行模型选择，但 EEG 任务、跨被试或跨会话协议、预处理条件、消融及统计信息尚未验证。复现应重点核对 cell 与统计量选择是否能独立于目标评估确定，以及样本内排序和矩阵外方向预测各自的泛化范围。