时序基础模型中的上下文系统辨识衰减:反事实输入诊断与合成受迫系统微调修复
Attenuated in-context identification in time-series foundation models: diagnosis under counterfactual inputs and repair by synthetic forced-system fine-tuning
基于摘要分析。研究考察带协变量的时序基础模型能否利用上下文回答受迫工程系统的反事实问题,即未来输入变化会如何改变输出。作者通过精确反事实对照诊断动态响应缺陷,并尝试以推理时上下文扰动和合成受迫系统微调修复。 研究比较 Chronos-2、TimesFM-2.5、TabPFN-TS 与使用相同上下文拟合的经典系统辨识方法。作者报告,通过默认协变量接口,TimesFM-2.5 和 TabPFN-TS 对输入变化的预测效应呈无记忆特征,即仅依赖同一时刻的输入变化;Chronos-2 能在上下文中辨识动态,但预测效应仅为真实效应的 0.33–0.80,恢复的脉冲响应形状也不正确。这些结论针对所测接口与系统,不宜外推为模型所有配置下的性质。 作者报告,在单自由度振子实验中,Chronos-2 使用 8192 个上下文样本时误差趋于 0.57,而 ARX 使用 256 个样本时达到 0.02;摘要未说明该误差的定义与归一化方式。推理时上下文扰动在全部六类合成系统上降低了反事实预测误差。一次耗时 26 分钟的合成受迫系统微调将响应敏感度恢复至 0.83–0.96,并在 Wiener-Hammerstein 和留出的摩擦系统类别上优于不预设结构的辨识方法;硬件及训练配置尚未验证。使用相同数据训练的专用上下文辨识器表现接近,作者据此认为受迫系统训练数据贡献了大部分增益。 边界同样重要:作者报告,在四个实测系统中的三个上,经典辨识仍明显更优,且微调损失了部分单变量预测能力。成对反事实输入与实测记录中打乱的未来输入共同检验接口能否表达动态、预训练先验是否覆盖系统时间尺度;作者指出,只有反事实配对暴露了响应衰减。实验协议、消融及统计信息尚未验证。 平台推测(待验证):该诊断思路可能用于具有明确外部输入的 EEG 刺激响应建模,而非直接用于一般 BCI 分类。可复用反事实配对与脉冲响应检验,但需改造通道表示及被试条件建模;低信噪比、潜在混杂和小数据可能使真实响应无法辨识。一个小实验是在已知输入—响应卷积系统中加入 EEG 背景噪声,比较基础模型与 ARX 的响应恢复误差,并留出响应时间尺度测试泛化。已有 EEG 相关工作尚未检索确认。
该研究用精确反事实输入区分协变量接口的动态表达能力与上下文辨识衰减,并比较合成受迫系统微调和经典系统辨识,值得核对其诊断协议及修复收益与预测能力损失之间的权衡。
来源:arXiv · 时序与音频基础模型 · arxiv.org