多GPU本地布署Wan2.2-TI2V-5B文本转视频模子

一，#本机环境查抄
实验nvidia-smi，检察右上角。验证显卡驱动已安装最高支持的版本。

1. nvidia-smi

复制代码

#在调试时，为了实时观察GPU使用率，一样平常新开一个下令窗口，实验以下下令，一秒革新一次。

1. watch -n 1 nvidia-smi

复制代码

实验nvcc -V验证cuda

1. nvcc -V

复制代码

实验conda --version验证conda版本

1. conda --version

复制代码

#列出全部已创建的Conda 环境​​：

1. conda env list
2. 或
3. conda info --envs

复制代码

#若存在，先删除已存在环境

1. conda env remove -n conda_wan2

复制代码

#创建新环境

1. conda create -n conda_wan2 python=3.10

复制代码

#激活环境

1. conda activate conda_wan2

复制代码

 
二，依赖库安装
根据CUDA版本安装PyTorch​​：
​​CUDA 12.1​​:

1. pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

复制代码

​​CUDA 12.2​​:

1. pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu122

复制代码

 #验证PyTorch是否能精确辨认GPU
python3 -c "import torch; print('PyTorch版本:', torch.__version__); print('CUDA可用:', torch.cuda.is_available()); print('CUDA版本:', torch.version.cuda); print('GPU装备:', torch.cuda.get_device_name(0) if torch.cuda.is_available() else 'None'); print('GPU数量:', torch.cuda.device_count());"
 
#魔搭modelscope库安装

1. pip3 install modelscope

复制代码

 
克隆堆栈

1. git clone https://github.com/Wan-Video/Wan2.2.git
2. cd Wan2.2

复制代码

安装依赖项

1. # Ensure torch >= 2.4.0
2. pip install -r requirements.txt

复制代码

#使用 modelscope-cli 下载模子：

1. modelscope download Wan-AI/Wan2.2-TI2V-5B --local_dir ./Wan2.2-TI2V-5B

复制代码

 
 
使用 FSDP + DeepSpeed Ulysses 举行多 GPU 推理
我们使用 PyTorch FSDP 和 DeepSpeed Ulysses 来加快推理
 

1. torchrun --nproc_per_node=8 generate.py --task ti2v-5B --size 480*832 --ckpt_dir ./Wan2.2-TI2V-5B --dit_fsdp --t5_fsdp --ulysses_size 8 --prompt "两猫对战"

复制代码

 
#文件找不到错误处理处罚，批量重定名

1. mv diffusion_pytorch_model-00001-of-00006-bf16.safetensors diffusion_pytorch_model-00001-of-00006.safetensors
2. mv diffusion_pytorch_model-00002-of-00006-bf16.safetensors diffusion_pytorch_model-00002-of-00006.safetensors
3. mv diffusion_pytorch_model-00003-of-00006-bf16.safetensors diffusion_pytorch_model-00003-of-00006.safetensors
4. mv diffusion_pytorch_model-00004-of-00006-bf16.safetensors diffusion_pytorch_model-00004-of-00006.safetensors
5. mv diffusion_pytorch_model-00005-of-00006-bf16.safetensors diffusion_pytorch_model-00005-of-00006.safetensors
6. mv diffusion_pytorch_model-00006-of-00006-bf16.safetensors diffusion_pytorch_model-00006-of-00006.safetensors

复制代码

 

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。