LLM提示对决优化器：高效的无标注提示优化方法
ArXiv ID: 2510.13907作者: Yuanchen Wu, Saurabh Verma, Justin Lee, Fangzhou Xiong, Poppy Zhang…发布日期: 2024-10-14分类: prompt-engineering评分: 3.8/5.0
摘要本文提出了提示对决优化器（PDO），这是一个样本高效的无标注提示优化框架。PDO将提示优化问题建模为对决老虎机（Dueling Bandit）问题，通过LLM评判器提供的成对偏好反馈进行优化。结合Double Thompson Sampling和Top-Performer引导变异策略，PDO在无需真实标注数据的情况下，在BIG-bench Hard和MS MARCO等基准上持续优于基线方法。
🎯 PDO：让提示优化摆脱标注数据的束缚核心问题...
基于意图的提示校准：通过合成边界案例增强提示优化
论文概述基于意图的提示校准引入了一种新的自动提示工程方法,解决了需要高质量基准数据集的挑战,而这些数据集在许多现实用例中难以获取且成本高昂。该方法使用迭代校准过程,联合生成边界用例的合成数据并根据此生成的数据集优化提示。通过在优化过程中创建边界案例而非预先需要大量标注数据,系统可以优化提示以更好地与用户意图对齐。该方法在有限数量的标注样本下优于最先进的方法,展示了强大的实用价值。
论文信息：
发布时间：2024-02-05
作者：Elad Levi, Eli Brosh, Matan Friedmann
机构：IBM Research
研究方向：提示工程, 大型语言模型推理
核心技术：提示优化
研究背景自动提示工程通常需要大量高质量的标注数据,这在实际应用中往往难以获取。本研究针对以下问题展开：
现有问题
自动提示优化需要大量高质量基准数据
标注数据获取成本高昂且耗时
现有方法难...