论文阅读1 Scaling Synthetic Data Creation with 1,000,000,000 Personas

Scaling Synthetic Data Creation with 1,000,000,000 Personas

链接：https://github.com/tencent-ailab/persona-hub/

  

1. 择要

我们提出了一种新的人物脚色驱动的数据合成方法，使用大型语言模子（LLM）中的各种观点来创建差别的合成数据。为大规模地充实使用这种方法，我们引入了Persona Hub —— 一个从网络数据中自动筹谋的10亿个差别人物脚色的聚集。Persona Hub 中的 10 亿个人物脚色（占天下总生齿的 13%）作为天下知识的分布式载体，可以使用LLM中封装的险些每一个视角，从而促进为各种场景大规模创建多样化的合成数据。
通过展示 Persona Hub 在综合高质量数学和逻辑推理题目方面的用例（如用户提示、知识丰富的文本、游戏NPC和工具功能的规模），我们证实白人物脚色驱动的数据合成是通用的、可扩展的、机动的、易于使用的。这一技能有潜力驱动合成数据创建和应用步调在实践中的范式变化，并大概对LLM研究和开发产生深远的影响。
  本技能陈诉仅用于研究目的，必须克制滥用，确保合乎道德和负责任的应用。我们将在第5节具体讨论其广泛影响和潜伏题目。
2. 配景

作者使用Persona Hub中的差别操行天生了107万条数据，并用其训练了Qwen2-7B模子，然后在MATH数据集上举行了测试。结果表明，模子得到了64.9%的正确率，比原始版本进步了15个百分点，并与1106、0125两个版本的GPT4-Turbo打成了平手。
真正要合成的不是数据集的数目，而是数据集的质量，即怎样进步数据集的多样性。
简单地将人物脚色添加到数据合成提示中，可以将LLM转向相应的视角以创建独特的合成数据。由于险些任何LLM用例都可以与特定的人物脚色干系联，因此只要我们构建一个全面的人物脚色聚集，就可以大规模创建应有尽有的合成数据。
2.1 什么是数据合成

合成数据（Bauer等人，2024；Liu等人，2024）通常指的是由模子或算法天生的数据，而不是直接由人类天生的数据。随着大型语言模子（LLMs）的发展，使用LLMs举行数据合成变得越来越有代价，人们对通过指定命据合成提示天生所需合成数据的爱好也日益增长。
2.2 为什么必要数据合成

在实践中，大规模创建合成数据并非易事：固然我们可以轻松地扩大合成数据的数目，但很难确保其多样性也随之扩大。在不思量采样的情况下，在数据合成提示下，LLM只能天生1个实例。因此，为了大规模地创建多样化的合成数据（比方，10亿个差别的数学题目），必要大量差别的提示。
<