LLM 驱动的元启发式算法发现的行为空间分析
Behaviour Space Analysis of LLM-Driven Meta-Heuristic Discovery
基于摘要分析。本文研究 LLM 自动生成的黑箱优化启发式算法在行为空间中的差异,贡献重点是结合搜索轨迹、代码结构与收敛表现,分析不同算法生成配置为何产生不同的优化行为,而非提出神经信号解码模型。 作者使用 Large Language Evolutionary Algorithm(LLaMEA)框架与 GPT o4-mini,迭代演化优化启发式算法,并在 BBOB 基准套件的 10 个函数上评估。研究比较采用不同变异提示策略的六种 LLaMEA 变体,记录每次运行的探索、利用、收敛及停滞等动态行为指标。分析工具包括基于行为的投影、由静态代码特征构建的 Code Evolution Graphs、性能收敛曲线,以及基于行为的 Search Trajectory Networks,旨在联系算法代码演化与实际搜索动态。 作者报告,在上述评估范围内,采用代码简化提示与随机扰动提示、并使用 1+1 精英进化策略的变体表现最佳,取得最高的 Area Over the Convergence Curve。作者还报告,表现较好的算法在行为可视化中呈现更强的利用行为、更快的收敛和更少的停滞;这些关联尚不能仅凭摘要解释为性能提升的因果机制。 摘要未提供具体得分、指标计算方式、函数配置、评估预算、重复次数及统计不确定性,实验协议、消融及统计信息尚未验证,代码可用性亦尚未验证。本文的直接研究对象是通用黑箱优化算法的自动发现,材料未提供 EEG 或 BCI 实验,不能据此推断神经信号任务收益;相关 EEG 工作尚未检索确认。
值得关注其将动态搜索行为与静态代码演化联合分析的思路,可用于核对 LLM 生成启发式算法的性能差异是否伴随可解释的搜索轨迹变化,但摘要尚不足以支持因果解释或 BCI 有效性判断。
来源:OpenReview · State space models · openreview.net