LLM 帮你写提示词，炼丹新时代来了！

9 月 10, 2024 #提示, #机器之心

上海枫泾古镇正门_20240824

基于提供的信息，以下是一篇新闻稿的草稿：

标题：自动提示词工程崭露头角：AI 助力解放大型语言模型潜力

副标题：谷歌研究者 Heiko Hotz 发布自动提示词工程指南，开启 LLM 性能优化新篇章

近日，谷歌研究者、生成式 AI 黑带选手 Heiko Hotz 发布了一篇详尽的长文，介绍了自动提示词工程（Automated Prompt Engineering，简称 APE）的概念、原理及其工作流程。这一技术的出现，为大型语言模型（LLM）的提示词优化带来了革命性的改变。

自动提示词工程（APE）的定义与重要性

自动提示词工程是一种自动生成和优化 LLM 提示词的技术，旨在提升模型在特定任务上的性能。传统的提示词工程需要人工编写和测试多个不同的提示词，而 APE 将这一过程自动化，大大节省了时间和精力。

在多模型和任务繁杂的情况下，人工提示词工程变得异常耗时且效率低下。Heiko Hotz 表示，自动提示词工程不仅能够解放 LLM 的潜力，还能探索更宽广的提示词设计空间，创造性地提出人类难以想象的提示词。

APE 的原理与工作流程

APE 的核心思想类似于传统监督式机器学习中的自动超参数优化。它通过使用 LLM 自身来生成和评估提示词，从而实现自动化。这一过程包括以下几个步骤：

评估指标通常基于模型响应与事实（ground truth）的比较。在这个过程中，另一个 LLM 作为评估器，对目标 LLM 的输出进行评估。

APE 的实际应用与挑战

Heiko Hotz 在文章中分享了一个具体的例子，展示了 APE 如何生成出人意料的提示词，从而显著提升模型性能。然而，自动生成文本提示词的难度远大于数值超参数的优化。这需要 LLM 在语言理解和生成方面具备高度的精通。

结语

Heiko Hotz 已经将本教程的代码发布在 GitHub 上，供社区学习和使用。自动提示词工程的出现，为 LLM 的性能优化开辟了新的道路，也为人工智能的发展带来了新的可能。

本文旨在为读者提供自动提示词工程的基本概念和重要性，以及其在人工智能领域的应用前景。