通过进化式 LLM 程序搜索提升 25 平方打包上界

📌 One-Sentence Summary
本文介绍了成功的优化方形打包演化搜索,其中一个 LLM 反复修正基准程序,从而打破了在不同数量单位正方形下最小包围正方形大小的诸多记录。
📝 Summary
作者描述了一项为期两天的计算实验,利用演化算法和大型语言模型解决方形打包问题。从一个随机放置和收缩正方形的基准程序出发,系统历经 128 代变异和选择。搜索成功打破了 25 条记录,包括 1979 年的古老记录,通过演化更高效的初始化模式和打包优化策略实现。
💡 Main Points
搜索从一个简单的基准程序开始,该程序随机放置正方形并使用 L-BFGS 收缩它们至不重叠。
这种初始设置提供了演化过程的起点,让算法探索方形打包的参数空间。
整个实验共打破了 25 条记录。
搜索的成功通过新发现的最低值数量来衡量,表明相对于之前已知的最佳解决方案有显著改进。
随着进度的推进,策略从单纯打磨已有打包转变为根本改变正方形的初始排列方式,从而获得更好的全局极小值。
程序的进化从添加优化算法转变为优化初始化模式。
💬 Key Quotes
该运行以一个有种子的基准程序开始。该程序在一个盒子中随机放置 n 个正方形,然后慢慢缩小盒子。每当正方形重叠时,一个优化器(L-BFGS)就会找到一个它们不再重叠的局部排列。
最终,在 2 天内,使用 7.5k CPU 小时和 125 美元的代币,共打破了 25 条记录。最古老的被打破的记录已经保持了 47 年。
在搜索的前半程,演化的程序保留了最初的随机搜索和挤压引擎,选择在标准盆地跳跃之上添加越来越强、越来越多样化的打包优化算法。
📊 Article Meta
AI Screening: 88
Source: Hacker News - Newest: "LLM"
Author: ryan
Category: 人工智能
Language: 英文
Read Time: 5 min
Word Count: 1005
Tags:
AI 与智能应用 , 模型训练与推理 , AI 工程 , 开源项目 , 大语言模型 (LLM)
刚好最近在找这方面的资料,太及时了。