MLExpert:面向自主机器学习工程的通用智能体模型
MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering
基于摘要分析。该研究面向自主机器学习工程(MLE)中的长程实验优化:一次实验反馈往往关联此前多项决策,完整运行又包含多次高成本实验,因此需要从长交互轨迹中筛选有效监督,并利用中间结果学习。作者提出后训练方法,训练了一个 35B Mixture-of-Experts 智能体模型 MLExpert;主要研究对象是自主 MLE,而非 EEG 解码或 BCI 系统。 方法包括三个环节:Kaggle-MLE Factory 用于构建可执行任务及支持模型自主组织实验的交互环境;分层智能体 SFT 通过结果引导的监督,将通用工具使用与编码能力迁移到 MLE;Windowed Interaction RL(WIRL)将相邻实验结果之间的多轮决策视为一个执行窗口,为窗口分配共享的结果奖励。异步轨迹采集与策略校正使模型能够在整条轨迹结束前更新策略。摘要未给出奖励计算、策略校正公式及训练资源需求。 作者报告,在 MLE-Bench Lite 上,MLExpert 将基础模型的平均奖牌率从 37.9% 提升至 72.7%,并达到与 Kimi-K3、GLM-5.3 等更大模型相当的表现。该指标是指定基准上的奖牌率,不是分类 Accuracy。作者还报告在 NatureBench Lite、智能体框架优化及算法优化任务上获得性能提升,并据此认为优化能力具有一定跨任务泛化性;摘要未提供这些任务的具体数值。评估预算、数据划分、重复运行、消融及统计信息尚未验证。 平台推测(待验证):若将 EEG 研究流程表述为具有可执行代码、固定数据划分与可计算验证反馈的实验任务,窗口级监督可能用于训练自动选择预处理和解码配置的研究智能体,而不是直接改造 EEG 解码器。需适配任务环境与奖励,并防止小数据、低信噪比及被试差异造成验证反馈不稳定。可在固定 Cross-subject 划分与相同实验预算下,对比 WIRL 与仅 SFT 智能体的配置搜索收益,最终仅在隔离测试集上评估。该假设不代表已证实的 BCI 效果,已有 EEG 相关工作尚未检索确认。
值得关注其以相邻实验结果之间的交互窗口分配奖励、从长程机器学习工程轨迹中提取监督的机制,但收益归因与跨任务泛化仍需结合完整评估协议核对。
来源:arXiv · 架构与算子 · arxiv.org