Datawhale X 魔搭 AI夏令营 第四期 AIGC task3

part 1：熟悉comfyUI
1.初识ComfyUI
1.1什么是Comfy UI
GUI是"Graphical User Interface"（图形用户界面）的缩写。简单来说，GUI 就是你在电脑屏幕上看到的那种有图标、按钮和菜单的交互方式。
ComfyUI是GUI的一种，为基于节点工作的用户界面，用于操作图像的天生技术。
1.2Comfy UI核心模块
核心模块有模型加载器、提示词管理器、采样器、解码器。
模型加载器：

提示词管理器：

解码器：

采样器：

1.3Comfy UI图片天生流程

1.4Comfy UI的优势
模块化和灵活性，可视化界面，多模型支持，调试和优化，开放和可拓展，用户友爱性。
 2：安装Comfy UI
是哦谁人魔搭社区提供的Notebook和免费的GPU算力体验来体验Comfy UI

2.1下载脚本代码文件
下载安装Comfy UI的执行文件和task1中微调完成的Lora文件

创建终端，复制下代码

1. [/code] git lfs install git clone https://www.modelscope.cn/datasets/maochase/kolors_test_comfyui.git mv kolors_test_comfyui/* ./ rm -rf kolors_test_comfyui/ mkdir -p /mnt/workspace/models/lightning_logs/version_0/checkpoints/ mv epoch=0-step=500.ckpt /mnt/workspace/models/lightning_logs/version_0/checkpoints/
2. 下载所需文件
3. 2.2进入Comfy UI安装文件
4. [align=center][img=1200,1200]https://i-blog.csdnimg.cn/direct/c8ef82e0cfae47e6b22b08bb334085bc.png[/img][/align]
5. [align=center][img=1200,706]https://i-blog.csdnimg.cn/direct/815a8261258d4a26b29dc49b1e1b89c1.png[/img][/align]
6. 可一键执行安装步调（约非常钟）
7. 注：若没有安装成功（好比我），最好一个模块一个模块执行，留意当前状态：
8. [align=center][img=1200,1029]https://i-blog.csdnimg.cn/direct/cb4dbc8ad95e43768d700a3450242dd0.png[/img][/align]
9. 由此处看当前状态，等一个模块执行完成后再执行下一模块。
10. 2.3进入预览界面
11. 若再最后一模块输出了访问链接时，打开该链接即可
12. [align=center][img=1200,714]https://i-blog.csdnimg.cn/direct/9c00c88b926b4c5dacbe72b6012591fe.png[/img][/align]
13. 3.尝试Comfy UI工作流
14. 3.1不带Lora的工作流样例
15. step1：下载工作流脚本
16. Docs
17. [align=center][img=422,336]https://i-blog.csdnimg.cn/direct/6cb887aadae64ebeb4ec22ab693672f1.png[/img][/align]
18. [align=center][img=1200,970]https://i-blog.csdnimg.cn/direct/ea2c89e6c73e47a4acc3cb8171133dad.png[/img][/align]
19. 由load上传kolors_example.json。
20. [align=center][img=1200,756]https://i-blog.csdnimg.cn/direct/70303ace217a42c2b2c94a5accfe2dd3.png[/img][/align]
21. 执行天生图片
22. 3.2带Lora的工作流样例
23. Task3：进阶上分-实战优化 - 飞书云文档 (feishu.cn)
24. [align=center][img=384,485]https://i-blog.csdnimg.cn/direct/ed3287900d7a4f18a8c228f31935526d.png[/img][/align]
25. 与上面相同，上传模型并执行天生图像。
26. part2：Lora微调
27. LoRA (Low-Rank Adaptation) 微调是一种用于在预训练模型上举行高效微调的技术。它可以通过高效且灵活的方式实现模型的个性化调整，使其能够适应特定的使命或领域，同时保持精良的泛化本领和较低的资源消耗。
28. 1.1Lora微调的原理
29. 通过再预训练模型的关键层中添加低秩矩阵来实现
30. 1.2Lora微调的优势
31. [b]快速适应新使命[/b]
32. [b]保持泛化本领[/b]
33. [b]资源效率[/b]
34. 2.Lora详解
35. 针对可图比赛中的微调代码来理解
36. 2.1Task2 中的微调代码
37. [code]import os
38. cmd = """
39. python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \ # 选择使用可图的Lora训练脚本DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py
40.   --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \ # 选择unet模型
41.   --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \ # 选择text_encoder
42.   --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \ # 选择vae模型
43.   --lora_rank 16 \ # lora_rank 16 表示在权衡模型表达能力和训练效率时，选择了使用 16 作为秩，适合在不显著降低模型性能的前提下，通过 LoRA 减少计算和内存的需求
44.   --lora_alpha 4.0 \ # 设置 LoRA 的 alpha 值，影响调整的强度
45.   --dataset_path data/lora_dataset_processed \ # 指定数据集路径，用于训练模型
46.   --output_path ./models \ # 指定输出路径，用于保存模型
47.   --max_epochs 1 \ # 设置最大训练轮数为 1
48.   --center_crop \ # 启用中心裁剪，这通常用于图像预处理
49.   --use_gradient_checkpointing \ # 启用梯度检查点技术，以节省内存
50.   --precision "16-mixed" # 指定训练时的精度为混合 16 位精度（half precision），这可以加速训练并减少显存使用
51. """.strip()
52. os.system(cmd) # 执行可图Lora训练   

复制代码

2.2参数详情表

参 数名称	参数值	说明
pretrained_unet_path	models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors	指定预训练UNet模型的路径
pretrained_text_encoder_path	models/kolors/Kolors/text_encoder	指定预训练文本编码器的路径
pretrained_fp16_vae_path	models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors	指定预训练VAE模型的路径
lora_rank	16	设置LoRA的秩（rank），影响模型的复杂度和性能
lora_alpha	4	设置LoRA的alpha值，控制微调的强度
dataset_path	data/lora_dataset_processed	指定用于训练的数据集路径
output_path	./models	指定训练完成后生存模型的路径
max_epochs	1	设置最大训练轮数为1
center_crop		启用中央裁剪，用于图像预处理
use_gradient_checkpointing		启用梯度查抄点，节省显存
precision	"16-mixed"	设置训练时的精度为混淆16位精度（half precision）

2.3UNet、VAE和文本编码器的协作关系

• UNet：负责根据输入的噪声和文本条件天生图像。在Stable Diffusion模型中，UNet接收由VAE编码器产生的噪声和文本编码器转换的文本向量作为输入，并预测去噪后的噪声，从而天生与文本描述符合的图像
  
• VAE：天生模型，用于将输入数据映射到潜伏空间，并从中采样以天生新图像。在Stable Diffusion中，VAE编码器首天赋生带有噪声的潜伏表现，这些表现随后与文本条件一起输入到UNet中
  
• 文本编码器：将文本输入转换为模型可以理解的向量表现。在Stable Diffusion模型中，文本编码器使用CLIP模型将文本提示转换为向量，这些向量与VAE天生的噪声一起输入到UNet中，引导图像的天生过程
  

Part3 如何准备一个高质量数据集

• 明白你的需求和目标
  

• 关注应用场景：确定你的模型将被应用到什么样的场景中（比方，艺术风格转换、产品图像天生、医疗影像合成等）。
  
• 关注数据类型：你需要什么样的图片？好比是真实世界的照片还是合成图像？是好坏的还是彩色的？是高分辨率还是低分辨率？
  
• 关注数据量：考虑你的使命应该需要多少图片来支持训练和验证。
  

• 数据集泉源整理
  

以下渠道泉源均需要考虑合规性标题，请大家在使用数据集过程中审慎选择。

泉源类型	推荐
公开的数据平台	魔搭社区内开放了近3000个数据集，涉及文本、图像、音频、视频和多模态等多种场景，左侧有标签栏帮助快速导览，大家可以看看有没有本身需要的数据集。 其他数据平台推荐：       ImageNet：包罗数百万张图片，广泛用于分类使命，也可以用于天生使命。 Open Images：由Google维护，包罗数千万张带有标签的图片。 Flickr：特别是Flickr30kK和Flickr8K数据集，常用于图像描述使命。 CelebA：专注于人脸图像的数据集。 LSUN (Large-scale Scene Understanding)：包罗各种场景种别的大规模数据集。
使用API或爬虫获取	如果需要特定类型的内容，可以使用API从图库网站抓取图片，如Unsplash、Pexels等。 使用网络爬虫技术从互联网上抓取图片，但需要留意版权标题。
数据合成	使用现有的图形引擎（如Unity、Unreal Engine）或特定软件天生合成数据，这在训练某些类型的模型时非常有效。 近来Datawhale联合阿里云天池，做了一整套多模态大模型数据合成的学习，接待大家一起交流。从零入门多模态大模型数据合成
数据增强	对于较小的数据集，可以通过旋转、翻转、缩放、颜色变更等方式举行数据增强。
购买或定制	如果你的应用是特定领域的，好比医学影像、卫星图像等，发起从靠谱的渠道购买一些数据集。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。