LLM之Prompt（四）| OpenAI、微软发布Prompt技能陈诉

择要

        天生式人工智能 （GenAI） 体系正越来越多地摆设在各行各业和研究机构。开辟职员和用户通过使用提示或提示工程与这些体系举行交互。固然提示是一个广泛提及且被研究的概念，但由于该范畴的新生，存在相互抵牾的术语和对构成提示的本体论明白不敷。本文通过对提示技能的分类和使用案例，构建对提示的结构化明白。作者还提供了 33 个词汇术语的综合词汇表、58 种纯文本提示技能的分类法和 40 种其他模态技能的分类法。作者进一步对天然语言prefix提示举行了团体分析。
一、先容

        基于transformer的LLMs广泛摆设在斲丧级产物、企业内部和研究环境中。通常，这些模子依靠于用户提供输入“提示”来天生输出作为相应。提示大概是笔墨，好比“Write a poem about trees.”，或接纳其他情势：图像、音频、视频或其组合。提示模子的本领，特别是使用天然语言提示的本领，使它们易于交互，并在各种用例中机动使用。
        相识怎样使用提示有用地构建、评估和实行其他任务对于使用这些模子至关紧张。根据履历，更好的提示会导致各种任务的效果得到改善。关于使用提示来改善效果的文献越来越多，提示技能的数目正在敏捷增长。
        然而，由于提示是一个新兴范畴，人们对提示的使用仍旧知之甚少，只有一小部分现有的术语和技能在从业者中广为人知。作者对提示技能举行了大规模的调研，以创建该范畴强盛的术语和技能资源。
研究范围

        作者创建了一个提示技能目次，可以快速明白并轻松实现这些技能，以便开辟职员和研究职员举行快速实行。为此，我们将研究限定在离散前缀提示而不是完形填空提示，由于使用前缀提示的当代LLM架构（尤其是仅解码器模子）被广泛使用，而且对斲丧者和研究职员都有强盛的支持。别的，我们将重点放在硬（离散）提示上，而不是软（连续）提示上，并省略了使用基于梯度的更新（即微调）的技能的论文。末了，我们只研究与任务无关的技能。这些决定使对于技能水平较低的读者来说，工作是和颜悦色的，并保持一个可管理的范围。
章节概述

        作者举行了一项基于 PRISMA 流程的呆板辅助体系综述以确定 58 种差别的基于文本的提示技能，作者从中创建了一个具有强盛的提示术语的分类法（第 1.2 节）。
        固然许多关于提示的文献都会合在纯英语设置上，但作者也讨论了多语言技能（第 3.1 节）。鉴于多模态提示的快速增长，此中提示大概包罗图像等媒体，作者还将范围扩展到多模态技能（第 3.2 节）。许多多语言和多模态提示技能是英语纯文本提示技能的直接扩展。
        随着提示技能变得越来越复杂，它们已经开始整合外部工具，比方互联网欣赏和盘算器。作者使用术语“Agent”来形貌这些范例的提示技能（第 4.1 节）。
        相识怎样评估署理和提示技能的输出非常紧张，如答应以确保天生正确性并制止幻觉。因此，作者讨论了评估这些输出的方法（第 4.2 节）。作者还讨论了安全性（第 5.1 节）和安全步伐（第 5.2 节），筹划低落对公司和用户造成伤害风险的提示。
        末了，作者在两个案例研究中应用了提示技能（第 6.1 节）。第一个案例，作者针对常用的基准MMLU测试了一系列提示技能。在第二个案例中，作者详细探究了一个紧张的真实用例上的手动提示工程示例，在寻求支持的个人文本中辨认出疯狂绝望的信号——自尽危急的紧张指标。末了，作者讨论了提示的本质及其迩来的发展（第8节）。
1.1 什么是提示？

        提示是天生式人工智能模子的输入，用于引导其输出。提示可以由文本、图像、声音或其他媒体构成。提示的一些示例包罗：“为管帐师变乱所的营销运动写一封三段电子邮件”，一张桌子的照片，并附有笔墨“形貌桌子上的统统”，或在线聚会会议的灌音，并附有“总结一下”的分析。
提示模板

        提示通常是通过提示模板构建的。提示模板是一个包罗一个或多个变量的函数，这些变量将被一些媒体（通常是文本）更换以创建提示。然后，可以将此提示视为模板的实例。
       请思量将提示应用于推文的二元分类任务。下面是一个初始提示模板，可用于对输入举行分类。

1. Classify the tweet as positive or negative:{TWEET}

复制代码

       数据会合的每条推文都将到场到模板中，天生的提示将被提供给一个 LLM 举行推理。

1.2 术语

1.2.1 提示的组件

       提示中包罗各种常见组件。作者总结了最常用的组件，并讨论了它们怎样顺应提示。
a）指令
        许多提示以指令或题目的情势发出。这是提示的核心意图，偶然简称为“意图”。比方，下面是包罗单个指令的提示示例：

1. Tell me five good books to read.

复制代码

       指令也可以是隐式的，比方在这种one-shot案例中，指令是实行英语到西班牙语的翻译：

1. Night: NocheMorning:

复制代码

b）示例
       示例，也称为examples或shots，充当引导 GenAI 完成任务的演示。上面的提示是 One-Shot提示。
c）输特别式
       GenAI 通常盼望以某些格式输出信息，比方 CSV 或 Markdown 格式。为了方便起见，您可以简朴地添加分析，如下所示：

1. {PARAGRAPH}Summarize this into a CSV

复制代码

d）风格分析
        风格分析是一种输特别式，用于在风格上而不是在结构上修改输出（第 2.2.2 节）。比方：

1. Write a clear and curt paragraph about llamas.

复制代码

e）脚色
        脚色，也称为个性化，是一个经常讨论的组件，可以改进文本的写作和风格（第 2.2.2 节）。比方：

1. Pretend you are a shepherd and write a limerick about llamas.

复制代码

f）其他信息
       通常须要在提示中包罗其他信息。比方，假如指令是写一封电子邮件，您可以包罗您的姓名和职位等信息，以便 GenAI 可以正确签署电子邮件。附加信息偶然被称为“上下文”，但作者不鼓励使用这个术语，由于它在提示空间中充满了其他寄义。
1.2.2 提示词

        提示干系的术语正在敏捷发展。就如今而言，有许多鲜为人知的界说（比方prompt、prompt engineering）和相互辩说的界说（比方role prompt与persona prompt）。缺乏划一的词汇拦阻了社区清楚地形貌所使用的各种提示技能的本领。我们提供了提示社区中使用的术语的强盛词汇表（图 1.3）。不太常见的术语请拜见（附录 A.2）。为了正确界说提示和提示工程等常用术语，作者整合了许多界说（附录 A.1）来推导出具有代表性的界说。

a）提示
        提示是向 GenAI 提供提示的过程，然后天生相应。比方，发送文本块或上传图像的操纵构成提示。
b）提示链
        提示链（运动：提示链）由连续使用的两个或多个提示模板构成。第一个提示模板天生的提示输出用于参数化第二个模板，不绝连续到全部模板用尽为止。
c）提示技能
        提示技能是一种蓝图，用于形貌怎样构建多个提示的提示或动态排序。提示技能大概包罗条件或分支逻辑、并行性或其他跨多个提示的体系结构注意事项。
d）提示工程
        提示工程是通过修改或更改您正在使用的提示技能来开辟提示的迭代过程（图 1.4）。

e）提示工程技能
       提示工程技能是一种迭代提示以改进它的计谋。在文献中，这通常是自动化技能，但在斲丧者环境中，用户经常手动实行提示工程。
f）示例
        示例是在提示中向模子体现的正在完成的任务的一些示例，从而帮助大模子明白正在完成的任务。
1.3 提示简史

        使用天然语言前缀或提示来引出语言模子举动和相应劈头于 GPT-3 和 ChatGPT 期间之前。GPT-2  使用提示，起首被用于天生式 AI 的上下文中。然而，提示的概念之前是干系概念，如控制代码和写作提示。
        “提示工程”一词好像是迩来从 Radford 等人 （2021） 中出现的，然后稍晚于 Reynolds 和 McDonell（2021 年）出现。
         然而，各种论文在不定名术语的环境下举行提示工程，包罗 Schick 和 Schütze （2020a，b）;Gao et al. （2021） 用于非自回归语言模子。
        一些关于提示的最初工尴尬刁难提示的界说与当前的使用方式略有差别。比方，思量 Brown 等人 （2020） 的以下提示：

1. Translate English to French:llama

复制代码

      Brown et al. （2020）以为“llama”一词是提示，而“将英语翻译成法语：”是“任务形貌”。迩来的论文，包罗这篇论文，将整个字符串作为提示输入给LLM。
二、Prompt元分析

2.1 体系评价流程

        为了可靠地网络本文的泉源数据集，作者举行了基于 PRISMA 过程的体系文献综述（图 2.1）。作者在 HuggingFace 上托管此数据集，并在附录 A.3 中展示了该数据集的部分数据。作者的紧张数据泉源是arXiv、Semantic Scholar和ACL。作者使用与提示和提示工程密切干系的 44 个关键字列表来查询这些数据库（附录 A.4）。

2.1.1 Pipeline

       在本节中，将先容作者的数据抓取管道，此中包罗人工检察和 LLM辅助检察。作为创建过滤准则的初始样本，作者基于一组简朴的关键字和布尔规则（A.4）从arXiv检索论文。然后，人类标注者根据以下标准标志 arXiv 会合的 1,661 篇文章样本：

  

• 论文是否提出了一种新的提示技能？（包罗）
    
  
• 这篇论文是否严酷涵盖了硬前缀提示？（包罗）
    
  
• 这篇论文是否侧重于通过反向传播梯度举行练习？（不包罗）
    
  
• 对于非文本模态，它是否使用蒙版框架和/或窗口？（包罗）
  
  

         一组 300 篇文章由两名表明者独立检察，同意率为 92%（Krippendorff 的 α = Cohen 的 κ = 81%）。接下来，作者使用 GPT-4-1106-preview 开辟一个提示来对剩余的文章举行分类。作者根据 100 个真实表明验证了提示，实现了 89% 的正确率和 75% 的召回率（F 1 为 81%）。将人工和LLM表明相连合，终极天生了 1,565 篇论文。
2.2 基于文本的技能

       如今，作者提出了一个包罗58种基于文本的提示技能的综合分类本体，分为6个紧张种别（图2.2）。固然有些技能大概得当多个种别，作者将它们放在一个最干系的种别中。

2.2.1 上下文学习（In-Context Learning）

        上下文学习是指 GenAI 通过在提示中向他们提供示例和/或干系分析来学习技能和任务的本领，而无需权重更新/再练习。这些技能可以从示例（图 2.4）和/或分析（图 2.5）中学习。请注意，“学习”一词具有误导性。上下文学习可以简朴地成为任务规范——技能不肯定是新的，而且大概已经包罗在练习数据中（图 2.6）。有关该术语用法的讨论，请参阅附录 A.8。如今优化和明白上下文学习也在连续研究中。

Few-Shot Prompting
        Few-Shot Prompting是图 2.4 中看到的范式，此中 GenAI 仅用几个示例（示例）学习完成任务。
Few-Shot Learning （FSL）
       Few-Shot Learning经常与 Few-Shot Prompting 等量齐观。须要注意的是，FSL 是一种更广泛的呆板学习范式，可以通过一些示例来调解参数，而 Few-Shot Prompting 特定于 GenAI 设置中的提示，不涉及更新模子参数。
2.2.1.1 小样本提示筹划决议
        为提示选择示例是一项困难的任务——性能在很大水平上取决于示例的各种因素，而且只有有限数目的示例得当范例的LLM上下文窗口。作者重点先容了六个独立的筹划决议，包罗对输出质量产生巨大影响的示例的选择和次序。

  

• 示例数目  
  

       增长提示中的示例数目通常会进步模子性能，尤其是在较大的模子中。然而，在某些环境下，大概20 个多示例也可以。

  

• 示例排序  
  

        示例的次序会影响模子举动。在某些使掷中，示例次序大概会导致正确性从低于 50% 到 90%+ 不等。

  

• 示例标签分布  
  

        与传统的监督呆板学习一样，提示中示例标签的分布会影响举动。比方，假如包罗来自一个类的 10 个示例和另一个类的 2 个示例，这大概会导致模子方向于第一个类。

  

• 示例标签质量  
  

        只管多个示例具有广泛的长处，但严酷有用的演示的须要性尚不清楚。一些工作表明，标签的正确性无关紧要——为模子提供带有错误标签的示例大概不会对性能产生负面影响。然而，在某些设置下，对性能有巨大影响。较大的模子通常更善于处理处罚不正确或不干系的标签。
        讨论这个因素很紧张，由于假如要从大概包罗不正确的大型数据集自动构建提示，则大概须要研究标签质量怎样影响效果。

  

• 示例格式
  

       示例的格式也会影响性能。最常见的格式之一是“Q：{input}，A：{label}”，但最佳格式大概因任务而异;大概值得实行多种格式，看看哪种效果最好。

  

• 示例相似性  
  

        选择与测试样本相似的示例通常有利于性能。然而，在某些环境下，选择更多样化的样本可以进步性能。
2.2.1.2 Few-shot 提示技能
       思量到全部这些因素，Few-Shot Prompting 大概很难有用实行。如今，作者研究了在监督环境中举行 Few-Shot Prompting 的技能。集成方法也可以使 Few-Shot Prompting 受益，但我们单独讨论它们（第 2.2.5 节）。
        假