适应数据而非模型:面向冻结时间序列预测器的输入空间适应
Adapt the Data, Not the Model: Input-Space Adaptation for Frozen Time-Series Predictors
基于摘要分析。本文研究临床预测器跨医院部署后性能下降、但受监管或硬件约束无法修改模型的问题,提出 INPUTADAPTER:训练输入空间适配器,将目标域时间窗口转换为冻结的源域预测器可处理的输入,而不更新预测器权重。该设定允许使用目标域标签,不应理解为无标签域适应或通常意义上的测试时自适应。 机制上,适配器承担分布适应,原预测器保持严格冻结。可选模块在编码器潜在空间中,为每个时间步检索 k 个源域近邻样例,再通过交叉注意力融合上下文。摘要未给出适配器结构、具体损失、标签用量及源域样例存储要求;关于传统对齐损失在冻结编码器条件下的限制,也需结合全文确认其具体适用条件,不能把权重冻结等同于输入梯度不可计算。 作者报告,在 MIMIC-IV 向 eICU、HiRID 迁移的五项 ICU 任务,以及 AdaTime 的全部五个基准上,方法优于或持平于所比较的基线。对照包括冻结骨干域适应、仿射统计适应、端到端微调、多种端到端域适应及测试时自适应方法。作者还报告,适配器在五项临床任务中的四项上超过相应的 eICU、HiRID 原生 LSTM。具体任务定义、数据划分、指标、标签预算、各类基线可访问的信息、消融及统计信息尚未验证,不能据摘要认定不同适应设定具有相同部署成本。 平台推测(待验证):若 EEG 预测器因设备或验证要求必须冻结,输入端适应可能用于处理跨被试、跨会话的信号分布变化;其前提是存在可用的目标域标注,检索增强还需要源域样例及合适的潜在表示。可复用的是冻结预测器与训练输入适配器的框架;通道布局、采样率及生理信号约束需另行设计。低信噪比、小样本标注和通道不一致可能使适配器过拟合或扭曲任务相关信号。一个可检验的小实验是在固定目标域标签预算和独立测试划分下,比较冻结 EEG 分类器、仿射适应及输入适配器,并单独检验检索模块的增益。上述迁移尚非本文已验证结论,已有 EEG 相关工作尚未检索确认。
该工作值得关注的具体原因是将适应模块置于输入端,直接研究预测器不可更新但目标域标签可用的部署约束;其跨医院与 AdaTime 结果及检索增强的独立贡献仍需全文核对。
来源:OpenReview · State space models · openreview.net