新手教程之利用LLaMa-Factory微调LLaMa3

为什么要用LLaMa-Factory

假如你实验过微调大模子，你就会知道，大模子的情况设置黑白常繁琐的，须要安装大量的第三方库和依赖，以致须要接入一些框架。
但是大模子微调的方法又黑白常雷同的，那有没有一种工具可以同一这些利用，让大模子微调酿成一个简单易上手的变乱，LLaMa-Factory就是为了办理这个题目应运而生

---

什么是LLaMa-Factory

原来不想说这么多废话的，想来想去还是简单先容一下，也加深自己的相识：
LLaMA Factory是一款支持多种LLM微调方式的工具，包罗预训练、指令监视微调和夸奖模子训练等。它支持LoRA和QLoRA微调战略，广泛集成了业界前沿的微调方法。特点在于支持多种LLM模子，提供了WebUI页面，使非开辟职员也能方便举行微调工作。
代码所在：LLaMA-Factory

---

LLaMa-Factory情况搭建

• 克隆项目
  

1. git clone https://github.com/hiyouga/LLaMA-Factory.git

复制代码

• 创建情况
  

1. conda create -n llama_factory python=3.10
2. conda activate llama_factory

复制代码

• 安装依赖
  

1. cd LLaMA-Factory
2. pip install -e .[torch,metrics]

复制代码

• 启动web UI界面
  

1. export CUDA_VISIBLE_DEVICES=0
2. python src/webui.py

复制代码

启动乐成之后，游览器会打开如下界面：

---

微调LLaMA3

• 预备模子
  

方法一：克隆我们要微调的模子到本地，然后将在web UI界面填入我们的模子名称和本地的模子所在

1. git clone https://www.modelscope.cn/LLM-Research/Meta-Llama-3-8B-Instruct.git

复制代码

方法二：直接去魔塔Meta-Llama-3-8B-Instruct所在复制对应的文件名和路径，微调时，步伐会自动​去魔搭下载模子！
（这个方法小编浅浅试了一下，没乐成，还是下载到本地靠谱）

• 预备数据集
  

LLaMA-Factory项目内置了丰富的数据集，同一存储于data目次下。
假如你想基于自己的数据集微调，你须要
（1）将你的数据集也放到data目次下
注意：你须要将你的数据集改为一样的格式，详细可参考data下内置数据集的格式
这里提供一个小编基于LooksJuicy/ruozhiba数据集改好的一个数据集：
   https://pan.baidu.com/s/1FYYlBIXWy697xdagrHiIeg
提取码：2333
  （2）修改data下的dataset_info.json文件，添加如下内容：
此中my_data.json是我自己的数据集文件，my_data是对应的数据集文件名

1. "my_data": {
2.     "file_name": "my_data.json"
3.   },

复制代码

添加到第一层大括号内的第一个元素前，也就是identity前面

• 微调
  

这里我直接通过web ui界面举行微调

训练须要二非常钟左右，训练完成之后，会出现下述界面：
左下角会表现训练完毕，右边会出现训练过程中丧失变革的一个可视化

• 与微调之后的模子对话
  

如许看来，利用LLaMa-Factory微调确实很简单方便！！！

---

参考博文

• 在Ubuntu上安装摆设LLaMA-Factory，及微调大模子测试
  
• 利用LLaMA Factory微调LlaMA 3模子
  
• llama3 微调教程之 llama factory 的 安装摆设与模子微调过程，模子量化和gguf转换
  
• 动手微调Llama3！纯本地+手把手！ORPO偏好微调，数据集工具指南！base到chat模子微调方案！day01
  
• Llama3 中文版模子微调条记,小白也能学会