ToB企服应用市场:ToB评测及商务社交产业平台

标题: Face Fusion 3.0 开源大模型当地部署文档 [打印本页]
作者: 张裕    时间: 2024-10-14 15:28
标题: Face Fusion 3.0 开源大模型当地部署文档
#前言：
本文是我一周以来自学部署Face Fusion 3.0的操作记载，对于部署其他开源大模型（比方Stable Diffusion）也有肯定的参考意义。
反复试错排查折腾了一周，终于将项目成功跑起来了。由于部署步骤过于复杂，不确定自己将来还能精确复现，特记载在此备忘，也给后来人做个参考。
在此，向各位无私分享知识的大佬致谢！

  
#参考文献：
1.FaceFusion
https://github.com/facefusion/facefusion
2.与AI同行1996——AI项目当地部署&运行根本环境安装，全网最详细教程！
3.刘悦的技能博客——Win11当地部署FaceFusion3最强AI换脸,集成Tensorrt10.4推理加速,让甜品显卡也能发挥生产力
4.hejp_123——Anaconda-- conda 创建、激活、退出、删除捏造环境
5.平安——windows 验证CUDA和CUDNN是否安装成功
6.～残月青衣踏尘吟——Windows10下多版本CUDA的安装与切换 超详细教程
7.花花少年——windows下CUDA的卸载以及安装
8.shaojie_wang——powershell 启动时报错 profile.ps1 cannot be loaded because running scri
#一、基础环境搭建及验证方法
##部署软硬件环境
内存32GB，显卡NVIDIA 4060Ti 16GB（8GB应该够用），Windows 11 Pro，DirectX 12、Visual Studio 2022、CUDA12.6，cuDNN9.4，TensorRT 10.4，Python3.11.9。
##特别留意事项
使用纯英文路径部署项目，最好切换为纯英文系统环境。
每次系统环境变量发生变化后，必要关闭并重新打开下令行/终端窗口，否则不生效。
##1.安装NVIDIA显卡最新硬件驱动并重启计算机（略）
##2.安装&配置CUDA+cuDNN(必要配置系统环境变量，如已安装可跳过)：
###（1）CUDA官方下载地点：
https://developer.nvidia.com/cuda-toolkit-archive
安装文件直达链接：
https://developer.download.nvidia.com/compute/cuda/12.6.1/local_installers/cuda_12.6.1_560.94_windows.exe
查抄显卡硬件驱动支持的最大CUDA版本下令行下令（本项目必要12.4以上版本的CUDA，以最新版12.6为例）
  1. nvidia-smi
复制代码
右上角第一行应显示：
   CUDA Version: 12.6
  设置系统环境变量名、变量值如下：
  1. CUDA_PATH：
  2. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6
复制代码
  1. CUDA_PATH_V12_6：
  2. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6
复制代码
  1. Path：
  2. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include
  3. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
  4. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib
  5. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp
复制代码
如果安装成功，输入以下CMD下令，能返回版本号
  1. nvcc -V
复制代码
倒数第二行应显示：
   Cuda compilation tools, release 12.6
  ###（2）特殊情况处置惩罚
NVIDIA个别版本CUDA安装包不带CUDA Samples，如项目运行中报错提示缺少CUDA Samples，必要到以下地点自行下载安装（以最新版CUDA Samples v12.5为例）：
https://www.github.com/nvidia/cuda-samples
安装文件直达链接：
https://github.com/NVIDIA/cuda-samples/archive/refs/tags/v12.5.zip
解压后将 samples 文件夹复制到 CUDA 安装目录下，比方：
   C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\
  设置系统环境变量名、变量值如下：
  1. NVCUDASAMPLES_ROOT：
  2. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\Samples
复制代码
  1. NVCUDASAMPLES12_6_ROOT：
  2. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\Samples
复制代码
###（3）cuDNN下载地点(需下载当前CUDA对应支持的版本)：
https://developer.nvidia.com/rdp/cudnn-archive
安装文件直达链接：
https://developer.download.nvidia.com/compute/cudnn/9.4.0/local_installers/cudnn_9.4.0_windows.exe
设置系统环境变量名、变量值如下：
  1. cuDNN：
  2. C:\Program Files\NVIDIA\CUDNN\v9.4\bin
复制代码
  1. cuDNN_PATH：
  2. C:\Program Files\NVIDIA\CUDNN\v9.4
复制代码
  1. Path：
  2. C:\Program Files\NVIDIA\CUDNN\v9.4\bin
  3. C:\Program Files\NVIDIA\CUDNN\v9.4\include
  4. C:\Program Files\NVIDIA\CUDNN\v9.4\lib\x64
  5. C:\Program Files\NVIDIA\CUDNN\v9.4\cudnn_samples
复制代码
如果安装成功，输入以下CMD下令，能返回版本号（本项目必要9.2以上版本的cuDNN，以最新版9.4为例）
  1. cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\extras\demo_suite
  2. deviceQuery.exe
复制代码
如果安装成功，最后一行应显示：
   Result = PASS
  1. cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\extras\demo_suite
  2. bandwidthTest.exe
复制代码
如果安装成功，最后一行应显示：
   Result = PASS
  ##3. 安装&配置FFmpeg最新版
涉及视频处置惩罚的项目通常必要，按需安装。
FFmpeg官方下载地点：
https://www.ffmpeg.org/download.html
安装文件直达链接：
https://www.gyan.dev/ffmpeg/builds/ffmpeg-git-full.7z
下载后解压到自选文件夹（如：C:_RUN\ffmpeg-git-full\）。
设置系统环境变量名、变量值如下：
  1. Path：
  2. C:\_RUN\ffmpeg-git-full\bin
复制代码
如果安装成功，输入以下CMD下令，能返回版本号
  1. ffmpeg -version
复制代码
第一行应显示：
   ffmpeg version……
  ##4.下载安装Codec解码最新版
涉及视频/音频处置惩罚的项目通常必要，按需安装。
K-Lite Codec Pack官方下载地点：
https://codecguide.com/download_kl.htm
安装文件直达链接：
https://files2.codecguide.com/K-Lite_Codec_Pack_1855_Mega.exe
##5.安装Git最新版
以最新版2.46为例：
Git官方下载地点：
https://git-scm.com/downloads
安装文件直达链接：
https://github.com/git-for-windows/git/releases/download/v2.46.2.windows.1/Git-2.46.2-64-bit.exe
设置系统环境变量名、变量值如下：
  1. Path：
  2. C:\Program Files\Git\cmd\
复制代码
如果安装成功：输入以下CMD下令，能返回版本号
  1. git --version
复制代码
应显示：
   git version 2.46.2.windows.1
  ##6. 安装&配置Conda
仅在使用conda捏造环境方式部署时必要安装此项，当地基础环境部署可跳过，以最新版24.7.1为例：
Miniconda官方下载地点：
https://docs.anaconda.com/miniconda/
安装文件直达链接：
https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe
设置系统环境变量名、变量值如下：
  1. Path：
  2. C:\ProgramData\miniconda3
  3. C:\ProgramData\miniconda3\Library
  4. C:\ProgramData\miniconda3\Scripts
复制代码
如果安装成功，输入以下CMD下令，能返回版本号：
  1. conda --version
复制代码
应显示：
   conda 24.7.1
  conda常用下令备查：
  1. //激活虚拟环境：
  2. conda activate your_env_name
  3. //退出虚拟环境：
  4. deactivate your_env_name
  5. //删除虚拟环境：
  6. conda remove --name your_env_name --all
  7. //复制某个环境
  8. conda create --name new_env_name --clone old_env_name
  9. //使用国内 conda 软件源加速
  10. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  11. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  12. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
  13. conda config --set show_channel_urls yes
复制代码
##7. 安装&配置Python
以Python3.11.9为例，Python官方下载地点：
https://www.python.org/downloads/
安装文件直达链接：
https://www.python.org/ftp/python/3.11.9/python-3.11.9-amd64.exe
设置系统环境变量名、变量值如下：
  1. Path：
  2. C:\Users\Administrator\AppData\Local\Programs\Python\Python311\
  3. C:\Users\Administrator\AppData\Local\Programs\Python\Python311\Lib
  4. C:\Users\Administrator\AppData\Local\Programs\Python\Python311\include
  5. C:\Users\Administrator\AppData\Local\Programs\Python\Python311\Scripts
复制代码
如果安装成功，输入以下CMD下令，能返回版本号
  1. //进入Python环境命令
  2. python
复制代码
第一行应显示：
   Python 3.11.9……
  1. //退出Python环境命令（新手可能需要，下同）
  2. exit()
复制代码
#二、Face Fusion项目github官方安装指导（未验证仅供参考）
项目地点：
https://github.com/facefusion/facefusion
Windows Installation
GIT
  1. winget install -e --id Git.Git
复制代码
Conda
  1. winget install -e --id Anaconda.Miniconda3 --override "/AddToPath=1"
复制代码
FFmpeg
  1. winget install -e --id Gyan.FFmpeg
复制代码
Codec
  1. winget install -e --id CodecGuide.K-LiteCodecPack.Basic
复制代码
CUDA Compatible with NVIDIA graphic cards:
  1. conda install conda-forge::cuda-runtime=12.4.1 conda-forge::cudnn=9.2.1.18
复制代码
#三、项目部署下令（已验证有效）
##1.CMD进入新建的项目空文件夹
//输入以下CMD下令（以C:_RUN\facefusion3_0为例）：
  1. cd C:\_RUN\facefusion3_0
复制代码
##2.在空文件夹克隆facefusion官方项目文件，会自动建立一个名为facefusion的文件夹。
输入以下CMD下令：
  1. git clone https://github.com/facefusion/facefusion.git
复制代码
也可以手动下载项目文件自行解压，安装文件直达链接：
https://github.com/facefusion/facefusion/archive/refs/tags/3.0.0.zip
##3.进入facefusion文件夹安装项目基础依靠（下同）。
输入以下CMD下令：
  1. cd facefusion
  2. pip3 install -r requirements.txt
复制代码
##4.安装 onnxruntime-gpu。
留意默认安装的版本是1.19.2只适配cuda12。
输入以下CMD下令：
  1. pip3 install onnxruntime-gpu
复制代码
逐行输入以下CMD、python下令查看 onnxruntime 版本：
  1. python
  2. import onnxruntime
  3. print(onnxruntime.__version__)
复制代码
成功应显示：
   1.19.2
  退出Python环境下令：
  1. exit()
复制代码
##5.安装TensorRT的python3.11运行库（40系N卡小显存发起安装，速率小幅提升，显存占用大幅减少）。
查询TensorRT版本和适配CUDA版本和cuDNN版本（以最新的TensorRT 10.4.0版本为例）：
https://docs.nvidia.com/deeplearning/tensorrt/archives/index.html
###（1）手动安装下载地点（安装方式二选一）：
https://developer.nvidia.com/tensorrt
安装文件直达链接：
https://developer.nvidia.com/downloads/compute/machine-learning/tensorrt/10.4.0/zip/TensorRT-10.4.0.26.Windows.win10.cuda-12.6.zip
###（2）CMD下令行安装方法（安装方式二选一）：
输入以下CMD下令：
  1. pip3 install tensorrt==10.4.0 --extra-index-url https://pypi.nvidia.com
复制代码
设置系统环境变量名、变量值如下：（文件存放位置以C:_RUN\TensorRT为例）
  1. Path：
  2. C:\_RUN\TensorRT\
  3. C:\_RUN\TensorRT\lib
复制代码
逐行输入以下CMD、python下令查看 tensorrt 版本：
  1. python
  2. import tensorrt
  3. print(tensorrt.__version__)
复制代码
如成功应显示：
   10.4.0
  退出Python环境下令：
  1. exit()
复制代码
##6.安装torch
输入以下CMD下令，设置永久性从清华大学镜像下载（推荐）：
  1. pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
复制代码
如果想取消镜像可删除：
   C:\Users\Administrator\AppData\Roaming\pip\pip.ini
  也可以用记事本编辑文件内容多加几个镜像：
  1. [global]
  2. index-url = https://pypi.tuna.tsinghua.edu.cn/simple
  3. extra-index-url =
  4.     https://mirrors.aliyun.com/pypi/simple
  5.     https://mirror.baidu.com/pypi/simple
复制代码
输入以下CMD下令开始安装（留意后缀是cu124），文件约2.5GB，如未设置镜像将直接从国外下载，大约必要3小时：
  1. pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
复制代码
逐行输入以下CMD、python下令查看torch 版本：
  1. python
  2. import torch
  3. print(torch.__version__)
复制代码
如果安装成功，应显示：
   2.4.1+cu124
  退出Python环境下令：
  1. exit()
复制代码
##7.以上环境全部安装成功后，进入 python3.11 的终端举行验证。
逐行输入以下CMD、python下令：
  1. python
  2. import onnxruntime as ort  
  3. print(ort.get_available_providers())
复制代码
如果显示以下内容，说明项目cpu、cuda、Tensorrt三种环境都部署成功，如果缺少项目，请自行回溯安装过程：
   [‘TensorrtExecutionProvider’, ‘CUDAExecutionProvider’,‘CPUExecutionProvider’]
  退出Python环境下令：
  1. exit()
复制代码
##8.下载大模型
第一次使用模型时，项目会自动下载用到的的大模型（总共约3GB）但速率较慢，发起提前手动下载必要的模型，然后放置到：
  1. facefusion\.assets\models
复制代码
文件夹中，如果没有.assets文件夹必要自己新建。
下载地点：
https://github.com/facefusion/facefusion-assets/releases/tag/models-3.0.0
百度云盘链接：
https://pan.baidu.com/s/12JdPYVOG9idCt_TaHPYm7Q?pwd=bk3q 提取码: bk3q
#四、启动项目
##1.建立启动文件
在facefusion.py地点文件夹新建.txt文本文件，再改名为.bat文件，内容如下：
（本机环境部署）Run.bat内容：
  1. start http://127.0.0.1:7860
  2. python facefusion.py run
  3. pause
复制代码
（本机环境部署+摄像头实时换脸模式）RunWebCam.bat内容：
  1. start http://127.0.0.1:7860
  2. python facefusion.py run --ui-layouts webcam
  3. pause
复制代码
（conda捏造环境部署）RunConda.bat内容：
  1. call conda activate facefusionstart http://127.0.0.1:7860
  2. python facefusion.py run
  3. pause
复制代码
##2.运行Run.bat进入主界面
#五、常见故障处置惩罚
##1.启动终端窗口报错
   File C:\Users\Administrator\Documents\WindowsPowerShell\profile.ps1
cannot be loaded because running scripts is disabled on this system.
  在终端窗口内运行以下下令，可以修改为默认使用管理员模式：
  1. set-ExecutionPolicy Restricted
复制代码
##2.服务端CMD窗口报错，缺少.dll文件
使用当地文件快速搜索工具，Everything 1.4.1.1026下载地点：
https://www.voidtools.com/zh-cn/
如果当地找得到，说明环境变量或软件版本有问题，如果当地找不到，可以到以下网站下载：
https://www.dllme.com/
如果多个dll文件找不到，说明你少装了东西，看看是不是缺DirectX、.NET运行库什么的。
##3.服务端CMD窗口报错
涉及C++runtime（运行库）或C++extensions（扩展）
安装Visual Studio 2022（约20—50GB）：
https://visualstudio.microsoft.com/zh-hans/visual-cpp-build-tools/
##4.服务端CMD窗口import cv2、numpy等报错，pip安装完一个又提示缺下一个
比方：
   ModuleNotFoundError: No module named ……
  查抄Python及之后的组件是否漏装、版本号是否精确、确认环境变量已设置，必要时卸载重装。
##5.初次进入WebUI无响应、反应慢。
正常现象，服务端正在后台下载支持文件和大模型，一样平常CMD窗口能看见进度条，耐烦等待多用几次就快了。
##6.预览窗口一片模糊。
你传了什么东西上去自己心里应该有数，图片被项目检测为NSFW举行了模糊处置惩罚，可以通过修改facefusion\content_analyser.py文件办理，具体方法我也不会。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。



欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4