用于系统辨识的上下文学习:概率化表述、长序列处理与基准验证
In-Context Learning for System Identification: Probabilistic Formulation, Long-Sequence Handling, and Benchmark Validation
该研究面向动态系统辨识,提出概率化上下文学习框架:由离线预训练的元模型直接根据训练数据和查询输入预测系统输出,绕过针对目标系统显式估计模型的步骤,并扩展长序列处理与合成数据生成能力。基于摘要分析,未取得论文全文。 核心机制是用大量合成数据离线训练元模型,使其模拟系统辨识算法。作者将 Transformer 编码器—解码器与面向长训练序列的专门机制结合,目标是在长预测时域内给出校准的概率预测;摘要未披露概率分布形式、训练损失、长序列机制及校准评估方式。另一用途是将预训练元模型作为不确定性感知的合成数据生成器,生成任务特定数据,在真实数据稀缺时为经典参数化系统辨识模型提供正则化。 作者报告,在标准非线性系统辨识基准及一个具有挑战性的分布外场景中,该框架取得了与先进方法具有竞争力的准确性,并表现出较强泛化能力,其中部分情形仅通过输入适应即可应对显著分布偏移。摘要未列出具体基准、指标、划分及对照方法,也未解释“仅输入适应”的操作与所需信息;实验协议、消融及统计信息尚未验证,不能据此判断其对任意分布偏移均有效。 平台推测(待验证):其与 EEG 的可能联系是连续信号的输入—输出动态建模,而非已验证的 BCI 解码改进。假设存在可定义的刺激或任务输入与 EEG 输出配对,可探索复用概率预测和上下文适应机制;需重新设计合成系统分布、通道表示及噪声模型。低信噪比、跨被试动力学差异、通道变化,以及合成系统与真实 EEG 不匹配,均可能使迁移失败。一个可检验的小实验是在固定刺激—EEG 预测任务中,以严格分离的跨被试划分比较预训练元模型与相同真实数据预算下的经典系统辨识模型,同时评估预测误差和不确定性校准。相关 EEG 工作尚未检索确认。
值得关注其将概率化上下文系统辨识、长序列处理与不确定性感知合成数据生成结合的机制,但分布外泛化及仅输入适应的适用条件仍需全文核对,EEG/BCI 迁移效果尚未验证。
来源:arXiv · 泛化与分布偏移 · arxiv.org