马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?立即注册
×
个人网站:https://tianfeng.space/
一、前言
着实想写LORA模子练习很久了,不停没时间,总结一下如今主流的两种LORA模子练习方式,分别是朱尼酱的赛博丹炉和秋叶大佬的练习脚本,练习效果应该是赛博丹炉更好,我个人更保举朱尼酱的赛博丹炉,界面炫酷,操纵简朴,作者也是花了很多心思的。我会逐一先容两种LORA模子练习方法。
二、朱尼酱的赛博丹炉
1.先容
- 全新U升级,赛博炼丹、科技修仙:大功能
- 首页新增产物,构筑两个训川练预设:
- 升级中英文双语TAG编辑器,支持及时翻译中英文输入TAG:
- 新增自界说参数,正则化训川练集功能:
- 新增自界说参数,分层练习功能:易用性
- 更换wd14 tagger标签器(可自界说可信度阈值
- 更换anime抠图焦点,同时兼容二次元与真人
- 优化自界说参数,学习率增长加减按钮功能,方便调解
- 新增参数预设管理器功能,可自界说并管理自己的预设参数(支持中文预设名)
- 输出训川练参数到模子文件夹,方便统计xyz信息
网盘链接:
提取码:fapv
最新的赛博丹炉已经整合到道玄界面了,就是一个新的压缩包文件,内里不但可以使用赛博丹炉练习LORA模子,还可以在上面生图,但是对我来说用处不大,我只必要他的练习脚本,由于风俗在秋叶启动器使用了,而且更方便更全面,不外如果有新手同伴想用的话,可以去使用支持一下博主,这里给出链接。朱尼酱B站链接
2.解压设置
下载完百度网盘压缩包后,解压后点击
\cybertronfurnace1.4\cfurnace_ui\Cybertron Furnace.exe
第一次打开会下载一些文件,请耐心等待!直到出现server start
3.使用
开启炼丹炉,让我们使用把!
练习准备
首页设置
我们必要准备使用的根本模子(大模子),和我们的练习集图片。如今我以自己举例开始演示!
根本模子使用麦橘的majicMIX realistic_v5 preview.safetensors作为底模,点击选择我们的大模子路径,召唤词可以自己定名一个,样张预览开启,就是练习的时间每50步会天生一张图检察练习效果。
好了,点击人物,确定到下一步!
上传素材
练习集最好准备50张图片,包罗差别角度,你的练习集质感越高,你练习出来的效果也越好,大概几个epoch就能到达很好的效果,如果练习集含糊。质感差,100张图片,20个epoch效果也很差!
分辨率不消改,大概改成768x768,
模式选择抠图填白,就是去除配景,只保存人物做练习
TAG选择自动TAG,使用的是WD1.4TAG反推器
标签可信度阈值默认0.35,数值越小TAG越多,数值越大TAG越少,就是设置越小,反推天生TAG越多
如果练习脸部请勾选,末了点击预处理惩罚
背景可以检察进度,一样平常是先抠图,后TAG反推。ok,抠图完成,脸部也单独提取出来了
TAG反推也完成了,你还可以为每张图增长一些提示词,如光影,质感等词汇
我这里整理一些,把这些TAG全部新增到每张图片,别忘了脸部也新增一下。
- Best quality,masterpiece,ultra high res,(photorealistic:1.4),raw photo,Kodak portra 400,film grain,
复制代码
趁便保举一个中文自动转英文的功能,打中文点击红框,自动转英文。必要的按我步调操纵一下,
进入网址https://api.fanyi.baidu.com/,注册登录后,点击通用文本翻译
点击立纵然用
然后选择个人开辟者,填写一些个人信息,然后选择高级版,实名认证一些,图片就不放了,由于我弄过了,就是按照流程来,很简朴,之后点击界面最上面的管理控制台选项,点击开通
然后选择通用文本翻译,开通高级版,末了一步填写应用名称就行,其他不管,提交申请就完了。
把APPID和密钥填入开启就完成了。
检察进度
先别点击开始练习,检察进度界面,点击参数调优
学习步数默认50步,,epoch可以选择20,batch size可以选择4,优化器Adam,没练习一个epoch生存一次权重(模子),Precision选择半精度(负2的15次方到2的15次方之间的数),调治器默认,余弦退火就是学习率曲线类似余弦函数一样,先增大后减小,重启次数应该就是周期数,临时默认不填。
总步数就是50x50x20/4=12500步,如果50张图片,如果增强脸部练习,步数翻倍。
我只讲一下关键参数,其他默认,学习率默认,网络维度选128,效果比力好,练习出来的lora模子文件巨细144M,这也是为什么市面上差别的lora巨细模子,网络维度128,64,32,分别对应144M,72M,36M网络Alpha必要调成和网络维度一样,大概一半。如网络维度128,网络Alpha128或64。样图分辨率设置成和前面图片预处理惩罚一样,如果是768x768,那么这里也改成768x768。如果爆显存就默认别改了。
样图设置可以随意不影响,可以每50步天生一次,第二个就不消改了,根本默认就行,种子随意都行,样本天生的提示词选一个。
分层练习,可以检察下图,仅资助明确,由于lora仅仅是练习一部分网络架构,不是全部unet,unet网络就是一个u型网络架构,先辈行下采样在举行上采样,中心一层就是中心层。之前写过stable diffusion原理时间讲过Unet,有爱好看看。链接
如果没有特殊需求分层设置先默认不填,其他设置中可以加载预练习模子,如果你前次练习了一个模子没跑完,只练习8个epoch,效果欠好,可以加载模子路径继承练习节省时间。正则化就是防止过拟合,如果想要开启正则化,点击开启。然后把你的图片放入正则化文件夹就行。
参数调解完毕!!回到界面,点击开始练习!!!
之后就开始练习了,耐心等待,可以检察日记,模子生存的路径点击模子即可,
我们全部的练习数据都在这,包罗练习集,日记,模子,正则化目次
可以看到,样图,练习的参数设置文件,以及每个epoch的模子都生存在这,发起分别在前中后选取模子测试效果,epoch少的不肯定差。对了,文件名可以改的,不影响。
到此,赛比丹炉先容完毕了!!!应该很详细了,点个赞给博主提提神把,下面开始秋叶大佬的!
三、秋叶的lora练习器
链接:
提取码:vtse
1.下载
下载完毕后解压后,先点击国内加快逼迫更新,然后点击启动脚本
进入界面,一样平常使用新手模式就行,专家模式可以调治更多参数,大概更好,但也大概得到更差的效果,以是发起使用新手界面就行,进步练习集的质量才气大幅度进步练习效果。
2.预处理惩罚
着实跟上面的差不多,把练习集的路径导入,阈值这里默认0.5,那么我们就0.5把,附加提示词照旧一样,把光影,质感等等加上去,其他不改。之后点击右下角启动!
- Best quality,masterpiece,ultra high res,(photorealistic:1.4),raw photo,Kodak portra 400,film grain,
复制代码
通过日记可以知道完成了,这里没有抠图填白,增强脸部练习等功能,只有TAG反推,
3.参数调配

留意,在这里练习集和大模子,必要复制到练习器目次下,有点繁琐,然后再把练习集路径和大模子路径填入,
练习集复制到该目次下,20是repeat数,每张图片重复练习多少次,把这个数字改成几。

大模子复制到该路径下

把路径改好如下,其他参数着实和上面差不多,如果上面的能明确这里也一样。

参数如下
- pretrained_model_name_or_path = "./sd-models/majicmixRealistic_v6.safetensors"
- train_data_dir = "./train/aki"
- resolution = "512,512"
- enable_bucket = true
- min_bucket_reso = 256
- max_bucket_reso = 1_024
- output_name = "aki"
- output_dir = "./output"
- save_model_as = "safetensors"
- save_every_n_epochs = 2
- max_train_epochs = 20
- train_batch_size = 1
- network_train_unet_only = false
- network_train_text_encoder_only = false
- learning_rate = 0.0001
- unet_lr = 0.0001
- text_encoder_lr = 0.00001
- lr_scheduler = "cosine_with_restarts"
- optimizer_type = "AdamW8bit"
- lr_scheduler_num_cycles = 1
- network_module = "networks.lora"
- network_dim = 128
- network_alpha = 128
- logging_dir = "./logs"
- caption_extension = ".txt"
- shuffle_caption = true
- keep_tokens = 0
- max_token_length = 255
- seed = 1_337
- prior_loss_weight = 1
- clip_skip = 2
- mixed_precision = "fp16"
- save_precision = "fp16"
- xformers = true
- cache_latents = true
- persistent_data_loader_workers = true
- lr_warmup_steps = 0
- sample_prompts = "./toml/sample_prompts.txt"
- sample_sampler = "euler_a"
- sample_every_n_epochs = 2
复制代码 点击开始练习即可
 
模子练习完成会生存在在output中!

OK,到此完毕了!如果对你有资助的话,请点个赞,谢谢!!
|