Datawhale X 魔塔 AI夏令营 AIGC方向Task2

小白学习条记，如有错误请各位大佬指正
一、AI生图背景先容

1.AICG范畴先容

       AIGC（Artificial Intelligence Generated Content）范畴涉及使用人工智能技术生成各种类型的内容，包括文本、图像、音频和视频。这个范畴的快速发展和广泛应用引起了广泛关注，涵盖了多个技术和应用方向。这里主要是文本生成、图像生成、音频生成、视频生成四个方向。
     这里主要先容图像生成。
      图像生成需包罗生成对抗网络（GANs）: 使用生成对抗网络生成高质量图像。GANs包括一个生成器和一个判别器，通过对抗训练生成传神的图像。扩散模子（Diffusion Models）: 通过渐渐去噪生成图像，是近来一种新兴的图像生成技术。图像生成应用在于艺术创作、假造脚色计划、图像加强等方向。
      文生图方向，在实际生存中应用已经逐渐广泛。在各种应用软件上生成的AI壁纸、AI头像，以及各种AI绘图走入经济市场。AI成长的速率快得令人惊异，我们在将AI工具作为生存辅助工具的同时，也需要对AI在市场上所带来的冲击有所准备。
2.Deepfake技术

       Deepfake技术是一种利用人工智能和呆板学习生成或伪造视觉内容的技术。它主要依赖于深度学习模子，特殊是生成对抗网络（GANs）和主动编码器（Autoencoders）来创建高度传神的虚假视频或音频。
       Deepfake技术使用深度学习算法生成或伪造视觉和听觉内容，通常是通过将一个人的面部表情或声音应用于另一个人的视频或音频上。Deepfake技术主要依赖于两个类型的神经网络：生成器和判别器（在GAN中），大概编码器和解码器（在主动编码器中）。生成器或编码器负责创建虚假的内容，而判别器或解码器则负责识别和修正这些内容，使其更为传神。
      技术在我看来向来是一直把双刃剑，其武器性质的好坏取决于使用人对其应用的用途。非法使用此技术的人大概会利用Deepfake技术创建虚假内容大概会侵犯个人隐私。 Deepfake技术也大概被用来制造虚假新闻、诈骗或误导公众。在这一方面，Deepfake技术面对着伦理上和法律上的题目。
3.AI生图工具先容

   魔塔社区链接魔搭社区
   Kolors（可图）模子(点击即可跳转魔搭模子先容页)是快手开源的文本到图像生成模子，该模子具有对英语和汉语的深刻理解，并能够生成高质量、传神的图像。
   代码开源链接：https://github.com/Kwai-Kolors/Kolors
  模子开源链接：https://modelscope.cn/models/Kwai-Kolors/Kolors
  技术报告链接：https://github.com/Kwai-Kolors/Kolors/blob/master/imgs/Kolors_paper.pdf
  魔搭研习社最佳实践说明：https://www.modelscope.cn/learn/575?pid=543
     具体可图模子如何使用，可以参考Datawhale教程，以及魔塔官方账号，方便了解更新AI生图前沿的知识。
二、利用AI工具学习

      使用AI工具举行代码分析
      通义千问通义tongyi.ai_你的全能AI助手
      使用通义千问等类似AI工具可以节流工作量、提高工作服从。但是使用该工具时仍然需要注意甄别信息的准确性、逻辑是否美满等题目。

三、baseline代码AI分析

      来源于通义AI，详见Datawhale教程。

1. # 安装 Data-Juicer 和 DiffSynth-Studio
2. !pip install simple-aesthetics-predictor # 安装simple-aesthetics-predictor
3. !pip install -v -e data-juicer # 安装data-juicer
4. !pip uninstall pytorch-lightning -y # 卸载pytorch-lightning
5. !pip install peft lightning pandas torchvision # 安装 peft lightning pandas torchvision
6. !pip install -e DiffSynth-Studio # 安装DiffSynth-Studio
8. # 从魔搭数据集中下载数据集AI-ModelScope/lowres_anime
9. from modelscope.msdatasets import MsDataset  #引入数据集模块msdatasets
10. ds = MsDataset.load(
11.     'AI-ModelScope/lowres_anime',
12.     subset_name='default',
13.     split='train',
14.     cache_dir="/mnt/workspace/kolors/data" # 指定缓存目录
15. ) # 从魔搭数据集中下载数据集AI-ModelScope/lowres_anime，赋值给参数ds
17. # 生成数据集
18. import json, os # 导入json和os模块
19. from data_juicer.utils.mm_utils import SpecialTokens # 导入SpecialTokens
20. from tqdm import tqdm # 导入tqdm进度条管理
21. os.makedirs("./data/lora_dataset/train", exist_ok=True) # 创建文件夹./data/lora_dataset/train
22. os.makedirs("./data/data-juicer/input", exist_ok=True) # 创建文件夹./data/data-juicer/input
23. with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
24.     for data_id, data in enumerate(tqdm(ds)): # 遍历数据集ds
25.         image = data["image"].convert("RGB") # 将数据集的图片转换为RGB
26.         image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg") # 保存数据集的图片
27.         metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]} # 生成当前图片的索引数据
28.         f.write(json.dumps(metadata)) # 将索引数据写入文件./data/data-juicer/input/metadata.jsonl
29.         f.write("\n")
31. # 配置data-juicer，并进行数据筛选过滤
32. # 配置过滤的规则
33. data_juicer_config = """
34. # global parameters
35. project_name: 'data-process' # 名称
36. dataset_path: './data/data-juicer/input/metadata.jsonl'  # 你前面生成的数据的索引文件
37. np: 4  # 线程数
39. text_keys: 'text' # 文件./data/data-juicer/input/metadata.jsonl的描述的字段名
40. image_key: 'image' # 文件./data/data-juicer/input/metadata.jsonl的图片字段名
41. image_special_token: '<__dj__image>'
43. export_path: './data/data-juicer/output/result.jsonl' # 筛选通过的图片结果保存的的索引文件
45. # process schedule
46. # a list of several process operators with their arguments
47. # 过滤的规则
48. process:
49.     - image_shape_filter: # 图片尺寸过滤
50.         min_width: 1024 # 最小宽度1024
51.         min_height: 1024 # 最小高度1024
52.         any_or_all: any # 符合前面条件的图片才会被保留
53.     - image_aspect_ratio_filter: # 图片长宽比过滤
54.         min_ratio: 0.5 # 最小长宽比0.5
55.         max_ratio: 2.0 # 最大长宽比2.0
56.         any_or_all: any # 符合前面条件的图片才会被保留
57. """
59. # 保存data-juicer配置到data/data-juicer/data_juicer_config.yaml
60. with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
61.     file.write(data_juicer_config.strip())
62. # data-juicer开始执行数据筛选
63. !dj-process --config data/data-juicer/data_juicer_config.yaml
66. # 通过前面通过data-juicer筛选的图片索引信息./data/data-juicer/output/result.jsonl，生成数据集
67. import pandas as pd # 导入pandas
68. import os, json # 导入os和json
69. from PIL import Image # 导入Image
70. from tqdm import tqdm # 导入tqdm进度条管理
71. texts, file_names = [], [] # 定义两个空列表，分别存储图片描述和图片名称
72. os.makedirs("./data/lora_dataset_processed/train", exist_ok=True) # 创建文件夹./data/lora_dataset_processed/train
73. with open("./data/data-juicer/output/result.jsonl", "r") as file: # 打开前面data-juicer筛选的图片索引文件./data/data-juicer/output/result.jsonl
74.     for data_id, data in enumerate(tqdm(file.readlines())): # 遍历文件./data/data-juicer/output/result.jsonl
75.         data = json.loads(data) # 将json字符串转换为对象
76.         text = data["text"] # 获取对象中的text属性，也就是图片的描述信息
77.         texts.append(text) # 将图片的描述信息添加到texts列表中
78.         image = Image.open(data["image"][0]) # 获取对象中的image属性，也就是图片的路径,然后用这个路径打开图片
79.         image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg" # 生成保存图片的路径
80.         image.save(image_path) # 将图片保存到./data/lora_dataset_processed/train文件夹中
81.         file_names.append(f"{data_id}.jpg") # 将图片名称添加到file_names列表中
82. data_frame = pd.DataFrame() # 创建空的DataFrame
83. data_frame["file_name"] = file_names # 将图片名称添加到data_frame中
84. data_frame["text"] = texts # 将图片描述添加到data_frame中
85. data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig") # 将data_frame保存到./data/lora_dataset_processed/train/metadata.csv
86. data_frame # 查看data_frame
89. # 下载可图模型
90. from diffsynth import download_models # 导入download_models
91. download_models(["Kolors", "SDXL-vae-fp16-fix"]) # 下载可图模型
92. # DiffSynth-Studio提供了可图的Lora训练脚本，查看脚本信息
93. !python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py -h
96. # 执行可图Lora训练
97. import os
98. cmd = """
99. python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \ # 选择使用可图的Lora训练脚本DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py
100.   --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \ # 选择unet模型
101.   --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \ # 选择text_encoder
102.   --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \ # 选择vae模型
103.   --lora_rank 16 \ # lora_rank 16 表示在权衡模型表达能力和训练效率时，选择了使用 16 作为秩，适合在不显著降低模型性能的前提下，通过 LoRA 减少计算和内存的需求
104.   --lora_alpha 4.0 \ # 设置 LoRA 的 alpha 值，影响调整的强度
105.   --dataset_path data/lora_dataset_processed \ # 指定数据集路径，用于训练模型
106.   --output_path ./models \ # 指定输出路径，用于保存模型
107.   --max_epochs 1 \ # 设置最大训练轮数为 1
108.   --center_crop \ # 启用中心裁剪，这通常用于图像预处理
109.   --use_gradient_checkpointing \ # 启用梯度检查点技术，以节省内存
110.   --precision "16-mixed" # 指定训练时的精度为混合 16 位精度（half precision），这可以加速训练并减少显存使用
111. """.strip()
112. os.system(cmd) # 执行可图Lora训练
115. # 加载lora微调后的模型
116. from diffsynth import ModelManager, SDXLImagePipeline # 导入ModelManager和SDXLImagePipeline
117. from peft import LoraConfig, inject_adapter_in_model # 导入LoraConfig和inject_adapter_in_model
118. import torch # 导入torch
119. # 加载LoRA配置并注入模型
120. def load_lora(model, lora_rank, lora_alpha, lora_path):
121.     lora_config = LoraConfig(
122.         r=lora_rank, # 设置LoRA的秩(rank)
123.         lora_alpha=lora_alpha, # 设置LoRA的alpha值，控制LoRA的影响权重
124.         init_lora_weights="gaussian", # 初始化LoRA权重为高斯分布
125.         target_modules=["to_q", "to_k", "to_v", "to_out"], # 指定要应用LoRA的模块
126.     )
127.     model = inject_adapter_in_model(lora_config, model) # 将LoRA配置注入到模型中
128.     state_dict = torch.load(lora_path, map_location="cpu") # 加载LoRA微调后的权重
129.     model.load_state_dict(state_dict, strict=False) # 将权重加载到模型中，允许部分权重不匹配
130.     return model # 返回注入LoRA后的模型
131. # 加载预训练模型
132. model_manager = ModelManager(
133.     torch_dtype=torch.float16, # 设置模型的数据类型为float16，减少显存占用
134.     device="cuda", # 指定使用GPU进行计算
135.     file_path_list=[
136.         "models/kolors/Kolors/text_encoder", # 文本编码器的路径
137.         "models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors", # UNet模型的路径
138.         "models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors" # VAE模型的路径
139.     ]
140. )
141. # 初始化图像生成管道
142. pipe = SDXLImagePipeline.from_model_manager(model_manager) # 从模型管理器中加载模型并初始化管道
143. # 加载并应用LoRA权重到UNet模型
144. pipe.unet = load_lora(
145.     pipe.unet,
146.     lora_rank=16, # 设置LoRA的秩(rank)，与训练脚本中的参数保持一致
147.     lora_alpha=2.0, # 设置LoRA的alpha值，控制LoRA对模型的影响权重
148.     lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt" # 指定LoRA权重的文件路径
149. )
152. # 生成图像
153. torch.manual_seed(0) # 设置随机种子，确保生成的图像具有可重复性。如果想要每次生成不同的图像，可以将种子值改为随机值。
154. image = pipe(
155.     prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙", # 设置正向提示词，用于指导模型生成图像的内容
156.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度", # 设置负向提示词，模型会避免生成包含这些特征的图像
157.     cfg_scale=4, # 设置分类自由度 (Classifier-Free Guidance) 的比例，数值越高，模型越严格地遵循提示词
158.     num_inference_steps=50, # 设置推理步数，步数越多，生成的图像细节越丰富，但生成时间也更长
159.     height=1024, width=1024, # 设置生成图像的高度和宽度，这里生成 1024x1024 像素的图像
160. )
161. image.save("1.jpg") # 将生成的图像保存为 "1.jpg" 文件
164. # 图像拼接，展示总体拼接大图
165. import numpy as np  # 导入numpy库，用于处理数组和数值计算
166. from PIL import Image  # 导入PIL库中的Image模块，用于图像处理
167. images = [np.array(Image.open(f"{i}.jpg")) for i in range(1, 9)]  # 读取1.jpg到8.jpg的图像，转换为numpy数组，并存储在列表images中
168. image = np.concatenate([  # 将四组图像在垂直方向上拼接
169.     np.concatenate(images[0:2], axis=1),  # 将第1组（images[0:2]）的两张图像在水平方向上拼接
170.     np.concatenate(images[2:4], axis=1),  # 将第2组（images[2:4]）的两张图像在水平方向上拼接
171.     np.concatenate(images[4:6], axis=1),  # 将第3组（images[4:6]）的两张图像在水平方向上拼接
172.     np.concatenate(images[6:8], axis=1),  # 将第4组（images[6:8]）的两张图像在水平方向上拼接
173. ], axis=0)  # 将四组拼接后的图像在垂直方向上拼接
174. image = Image.fromarray(image).resize((1024, 2048))  # 将拼接后的numpy数组转换为图像对象，并调整大小为1024x2048像素
175. image  # 输出最终生成的图像对象，用于显示图像

复制代码

四、修改提示词
      可以利用通义AI助手来生成提示词。修改prompt和negative_prompt。可以根据AI给出的笔墨段按照本身的心意来打磨。但是现阶段技术有限，AI文生图大概会出错先手指扭曲、人物扭曲、无法生成本身想要的情镜等题目，所以提示词需要本身反复修改来调整。
     在这里我实行了一个花木兰从军的故事概括。有一次在提示词中输入俯视视角，初次成功但是后续调整失败，人物面容、背景重合度也不高，并不美满，需要后续举行相应的调整。以下是提示词代码以及修图成果。

参考文献
1.Datawhale教程Datawhale
2.《Generative Adversarial Nets》https://arxiv.org/abs/1406.2661
3.《Denoising Diffusion Probabilistic Models》 https://arxiv.org/abs/2006.11239
4.deepfake不良影响的先容JUST JOKING! Deepfakes, Satire, and the Politics of Synthetic Media - MIT CoCreate


免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。