探索 GEPA：基于反思的 LLM 上下文提示优化技术
本文探讨了 GEPA (Genetic-Pareto) 技术，一种旨在解决大语言模型上下文管理被动性的提示词优化器。与运行时的 RLM 不同，GEPA 在推理前操作，通过自然语言反馈和试错学习来改进提示词。文章分析了 GEPA 如何利用 Pareto 前沿保持提示多样性，避免单一最优解，并在多项任务中以更少的 rollout 取得优于 GRPO 和 MIPROv2 的性能。作者提出 GEPA 与 RLM 相结合，代表了从单纯增加上下文长度向主动选择和管理上下文的技术范式转变。