跳到正文
arXiv · 架构与算子· Ivan Moloshnikov; Dmitry Kunitsyn; Alexander Sboev; Maksim Skorokhodov; Roman Rybka; Yuanchao Liu·· 6 天前精选AI 评分71

用于专用神经网络模型自动调优的多智能体 LLM 系统

A Multi-Agent LLM System for Automated Tuning of Specialized Neural Network Models

AI 导读

基于摘要分析。该研究针对机器学习方法类别确定后,关键组件仍依赖专家手工选择的问题,提出由 analyst、coder 和 recorder 三种角色组成的多智能体 LLM 调优框架。其主要贡献是在不改变整体网络结构的前提下,通过生成指定组件的代码,在语义范围受限但实现方式开放的空间内进行搜索,并以实验日志和沙箱执行环境支持调优流程。 原论文的验证对象是采用相关性学习的分类脉冲神经网络,以及求解高阶微分方程的 Physics-Informed Neural Networks(PINN),不是 EEG 或 BCI 系统。与优化整份机器学习脚本或在离散架构空间中搜索的方法不同,该框架把可修改范围限定为预先指定的组件;具体组件、角色交互方式、停止条件和计算预算尚未验证。 作者报告,在摘要所述五项任务中,相对所用基线,MNIST 与 Digits 脉冲分类任务的 Accuracy 分别提高 13 和 6 个百分点;在广义非线性 Schrödinger 方程(GNLSE)任务中,相对解析单孤子解的误差约降低 2491 倍;加入 Gaussian 扰动的某次 GNLSE 运行中,不变量保持误差约降低 325 倍,多次初始化下平均降低超过 100 倍;在加入 Gaussian 扰动的 Kuramoto–Sivashinsky(KS)问题中,质量漂移降低 14 倍。这些指标属于不同任务,不能合并为统一性能增益。基线配置、数据划分、误差定义、搜索预算、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 解码已有固定主干和明确的可调组件接口,这种受限代码搜索可用于降低人工调优成本,但原领域结果不构成 BCI 有效性证据。可复用多角色协作、日志和沙箱,需改造 EEG 数据接口及验证协议;低信噪比、跨被试差异、通道配置变化和小数据可能使搜索过拟合验证集。一个可检验的小实验是固定同一 EEG 解码主干与可调范围,在相同评估次数预算下,对比该框架与随机搜索,并在独立留出被试上评估。已有相关 EEG 工作尚未检索确认。

阅读价值

值得核对其“固定整体网络、仅生成指定组件代码”的受限搜索机制,以及实验日志与沙箱如何支持跨任务调优;摘要中的收益尚需结合基线、搜索预算和重复实验协议验证。

来源:arXiv · 架构与算子 · arxiv.org