HM3:面向预训练模型的分层多目标模型合并
HM3: Hierarchical Multi-Objective Model Merging for Pretrained Models
基于摘要分析。本文研究如何同时在参数空间与架构空间合并预训练模型,提出分层多目标框架 HM3,以应对架构搜索空间庞大及层间兼容性问题。作者报告,在语言和视觉任务上,HM3 优于仅在参数空间或仅在架构空间进行合并的方法,但摘要未提供具体任务、指标或提升幅度。 机制上,HM3 将模型合并表述为双层多目标优化:参数层整合已有合并方法,快速寻找候选最优参数;架构层基于这些结果,采用 actor-critic 策略与高效策略离散化,在层粒度搜索空间中探索具有马尔可夫性质的推理路径,以重构模型。作者通过训练可复用的策略网络与价值网络,寻找面向不同任务需求的 Pareto 最优模型。需要区分的是,摘要将模型合并概述为无需原始数据或额外训练,但 HM3 明确包含策略与价值网络训练,不能据此将整个框架理解为完全免训练。 目前尚不能确认多目标分别对应哪些指标、架构兼容性如何处理,以及策略训练和搜索需要何种数据、监督与计算规模。基础模型、数据集、评估划分、对照基线、消融及统计信息尚未验证;其效果与开销需在同一实验协议下核对。 平台推测(待验证):若已有多个结构兼容的 EEG 预训练或任务模型,参数合并与层路径选择可作为探索模型复用的一种假设,而非已验证的 BCI 方法。可复用部分是双层搜索思路,需改造部分包括通道与输入表示对齐、层间接口及任务评价目标;低信噪比、被试差异和小数据可能使策略选择不稳定。一个可证伪的小实验是在固定 Cross-subject 划分和相同搜索预算下,比较 HM3 式联合搜索与仅参数合并,核对预先指定的任务指标及推理开销,并隔离搜索数据与最终测试数据。已有 EEG 相关工作尚未检索确认。
值得核对的是 HM3 如何将参数合并与层级推理路径搜索组成双层多目标优化,以及可复用策略能否降低搜索开销;摘要中的优势结论仍需结合具体基线、计算预算和 Pareto 评估验证。
来源:OpenReview · State space models · openreview.net