Datawhale X 魔搭AI夏令营 第四期 AIGC文生图方向 Task2笔记 ...

这次的笔记重要是连合了AI来辅助学习和生成提示词，和前次Task1的笔记一样，笔者会先过一遍流程，在文末再补充相应的理论知识。


通义千问（如果已经有习惯的大语言模型可以跳过这一段）

通义千问是由阿里云开辟的人工智能助手，这里给出链接，大家可以自行体验一下，这里我们重要用到对话模块：

利用AI明白baseline的代码

我们可以用AI对话来明白代码，这里不对代码进行具体说明，只记录如何用AI提问和利用AI来生成提示词的一些本领。
起首我们把baseline中的所有代码整理出来，代码结构如下：

1. !pip install simple-aesthetics-predictor
2. !pip install -v -e data-juicer
3. !pip uninstall pytorch-lightning -y
4. !pip install peft lightning pandas torchvision
5. !pip install -e DiffSynth-Studio
7. from modelscope.msdatasets import MsDataset
9. ds = MsDataset.load(
10.     'AI-ModelScope/lowres_anime',
11.     subset_name='default',
12.     split='train',
13.     cache_dir="/mnt/workspace/kolors/data"
14. )
16. import json, os
17. from data_juicer.utils.mm_utils import SpecialTokens
18. from tqdm import tqdm
21. os.makedirs("./data/lora_dataset/train", exist_ok=True)
22. os.makedirs("./data/data-juicer/input", exist_ok=True)
23. with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
24.     for data_id, data in enumerate(tqdm(ds)):
25.         image = data["image"].convert("RGB")
26.         image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
27.         metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
28.         f.write(json.dumps(metadata))
29.         f.write("\n")
31. data_juicer_config = """
32. # global parameters
33. project_name: 'data-process'
34. dataset_path: './data/data-juicer/input/metadata.jsonl'  # path to your dataset directory or file
35. np: 4  # number of subprocess to process your dataset
37. text_keys: 'text'
38. image_key: 'image'
39. image_special_token: '<__dj__image>'
41. export_path: './data/data-juicer/output/result.jsonl'
43. # process schedule
44. # a list of several process operators with their arguments
45. process:
46.     - image_shape_filter:
47.         min_width: 1024
48.         min_height: 1024
49.         any_or_all: any
50.     - image_aspect_ratio_filter:
51.         min_ratio: 0.5
52.         max_ratio: 2.0
53.         any_or_all: any
54. """
55. with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
56.     file.write(data_juicer_config.strip())
58. !dj-process --config data/data-juicer/data_juicer_config.yaml
60. import pandas as pd
61. import os, json
62. from PIL import Image
63. from tqdm import tqdm
66. texts, file_names = [], []
67. os.makedirs("./data/data-juicer/output/images", exist_ok=True)
68. with open("./data/data-juicer/output/result.jsonl", "r") as f:
69.     for line in tqdm(f):
70.         metadata = json.loads(line)
71.         texts.append(metadata["text"])
72.         file_names.append(metadata["image"][0])
74. df = pd.DataFrame({"text": texts, "file_name": file_names})
75. df.to_csv("./data/data-juicer/output/result.csv", index=False)
77. df
79. from transformers import CLIPProcessor, CLIPModel
80. import torch
82. model = CLIPModel.from_pretrained("openai/clip-vit-base-patch32")
83. processor = CLIPProcessor.from_pretrained("openai/clip-vit-base-patch32")
85. images = [Image.open(img_path) for img_path in df["file_name"]]
86. inputs = processor(text=df["text"].tolist(), images=images, return_tensors="pt", padding=True)
88. outputs = model(**inputs)
89. logits_per_image = outputs.logits_per_image  # this is the image-text similarity score
90. probs = logits_per_image.softmax(dim=1)  # we can take the softmax to get the probabilities
92. probs
94. from torch.utils.data import Dataset, DataLoader
96. class CustomDataset(Dataset):
97.     def __init__(self, df, processor):
98.         self.texts = df["text"].tolist()
99.         self.images = [Image.open(img_path) for img_path in df["file_name"]]
100.         self.processor = processor
102.     def __len__(self):
103.         return len(self.texts)
105.     def __getitem__(self, idx):
106.         inputs = self.processor(text=self.texts[idx], images=self.images[idx], return_tensors="pt", padding=True)
107.         return inputs
109. dataset = CustomDataset(df, processor)
110. dataloader = DataLoader(dataset, batch_size=8)
112. for batch in dataloader:
113.     outputs = model(**batch)
114.     logits_per_image = outputs.logits_per_image
115.     probs = logits_per_image.softmax(dim=1)
116.     print(probs)
118. import torch
119. from diffusers import StableDiffusionPipeline
121. torch.manual_seed(1)
122. pipe = StableDiffusionPipeline.from_pretrained("CompVis/stable-diffusion-v-1-4", torch_dtype=torch.float16)
123. pipe = pipe.to("cuda")
125. prompt = "二次元，一个紫色长发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌，手持话筒"
126. negative_prompt = "丑陋、变形、嘈杂、模糊、低对比度"
127. guidance_scale = 4
128. num_inference_steps = 50
130. image = pipe(
131.     prompt=prompt,
132.     negative_prompt=negative_prompt,
133.     guidance_scale=guidance_scale,
134.     num_inference_steps=num_inference_steps,
135.     height=1024,
136.     width=1024,
137. ).images[0]
139. image.save("example_image.png")
140. image
142. from PIL import Image
144. torch.manual_seed(1)
145. image = pipe(
146.     prompt="二次元，日系动漫，演唱会的观众席，人山人海，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，舞台上衣着华丽的歌星们在唱歌",
147.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
148.     cfg_scale=4,
149.     num_inference_steps=50, height=1024, width=1024,
150. )
151. image.save("1.jpg")
153. torch.manual_seed(1)
154. image = pipe(
155.     prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，露出憧憬的神情",
156.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，色情擦边",
157.     cfg_scale=4,
158.     num_inference_steps=50, height=1024, width=1024,
159. )
160. image.save("2.jpg")
162. torch.manual_seed(2)
163. image = pipe(
164.     prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，露出憧憬的神情",
165.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，色情擦边",
166.     cfg_scale=4,
167.     num_inference_steps=50, height=1024, width=1024,
168. )
169. image.save("3.jpg")
171. torch.manual_seed(5)
172. image = pipe(
173.     prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙，对着流星许愿，闭着眼睛，十指交叉，侧面",
174.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，扭曲的手指，多余的手指",
175.     cfg_scale=4,
176.     num_inference_steps=50, height=1024, width=1024,
177. )
178. image.save("4.jpg")
180. torch.manual_seed(0)
181. image = pipe(
182.     prompt="二次元，一个紫色中等长度头发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌",
183.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
184.     cfg_scale=4,
185.     num_inference_steps=50, height=1024, width=1024,
186. )
187. image.save("5.jpg")
189. torch.manual_seed(1)
190. image = pipe(
191.     prompt="二次元，一个紫色长发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌，手持话筒",
192.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
193.     cfg_scale=4,
194.     num_inference_steps=50, height=1024, width=1024,
195. )
196. image.save("6.jpg")
198. torch.manual_seed(7)
199. image = pipe(
200.     prompt="二次元，紫色长发少女，穿着黑色连衣裙，试衣间，心情忐忑",
201.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
202.     cfg_scale=4,
203.     num_inference_steps=50, height=1024, width=1024,
204. )
205. image.save("7.jpg")
207. torch.manual_seed(0)
208. image = pipe(
209.     prompt="二次元，紫色长发少女，穿着黑色礼服，连衣裙，在台上唱歌",
210.     negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
211.     cfg_scale=4,
212.     num_inference_steps=50, height=1024, width=1024,
213. )
214. image.save("8.jpg")
216. import numpy as np
217. from PIL import Image
220. images = [np.array(Image.open(f"{i}.jpg")) for i in range(1, 9)]
221. image = np.concatenate([
222.     np.concatenate(images[0:2], axis=1),
223.     np.concatenate(images[2:4], axis=1),
224.     np.concatenate(images[4:6], axis=1),
225.     np.concatenate(images[6:8], axis=1),
226. ], axis=0)
227. image = Image.fromarray(image).resize((1024, 2048))
228. image

复制代码

-如果你想明白代码的主体架构，可以这么问
   “你是一个优秀的python开辟工程师，现在我们需要你帮我们分析这个代码的主体框架，你需要把代码按照工作流分成几部门，用中文回答我的问题。{此处更换前面的代码}”
  -如果你想明白每一行代码的具体寄义，可以这么问
   “你是一个优秀的python开辟工程师，现在我们需要你帮我们逐行分析这个代码，用中文回答我的问题。{此处更换前面的代码}”
  
接下来是我认为比较当前比较实用的——如何利用AI来生成提示词
同上，我们可以这么问AI：
   你是一个文生图专家，我们现在要做一个实战项目，就是要编排一个文生图话剧
话剧由8张场景图片生成，你需要输出每张图片的生图提示词

具体的场景图片（自行更换）
1、女主正在上课
2、开始睡着了
3、进入梦境，梦到自己站在路旁
4、王子骑马而来
5、两人相谈甚欢
6、一起坐在马背上
7、下课了，梦醒了
8、又回到了学习生存中

生图提示词要求（自行更换）
1、风格为古风
2、根据场景确定是利用浑身照旧上半身
3、人物描述
4、场景描述
5、做啥事情

例子：（自行更换）
古风，水墨画，一个黑色长发少女，坐在课堂里，盯着黑板，深思，上半身，赤色长裙
  （这里也给出笔者用AI生成的提示词跑出来的图 basementpeople/huangliangyimeng-LoRA，我认为比Task1里我自己跑出来的图更好很多）

浅尝scepter webui

魔搭体验网址

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。