AIGC模子训练推理/ SDXL WebUI基于DevServer适配PyTorch NPU推理引导（6.3. ...

本文档主要介绍如何在ModelArts Lite的DevServer环境中部署Stable Diffusion的WebUI套件，使用NPU卡进行推理。
方案概览

本方案介绍了在ModelArts的DevServer上使用昇腾盘算资源部署Stable Diffusion WebUI套件用于推理的详细过程。完本钱方案的部署，必要先联系您地点企业的华为方技能支持购买DevServer资源。
本方案现在仅实用于企业客户。
资源规格要求

推理部署推荐使用“西南-贵阳一”Region上的DevServer资源和Ascend Snt9B单机单卡。
获取软件

获取插件代码包ascendcloud-aigc-6.3.902-*.tar.gz文件。获取路径：Support网站。
分析：
如果没有软件下载权限，请联系您地点企业的华为方技能支持下载获取。
ascendcloud-aigc-6.3.902-*.tar.gz文件名中的*表示具体的时间戳，以包名的实际时间为准。
Step1 准备环境

• 请参考DevServer资源开通，购买DevServer资源，并确保呆板已开通，密码已获取，能通过SSH登录，不同呆板之间网络互通。分析： 购买DevServer资源时如果无可选资源规格，必要联系华为云技能支持申请开通。
  当容器必要提供服务给多个用户，或者多个用户共享使用该容器时，应限制容器访问Openstack的管理地址（169.254.169.254），以防止容器获取宿主机的元数据。具体操作请参见禁止容器获取宿主机元数据。
  
  
• 查抄环境。   
     
  
  • SSH登录呆板后，查抄NPU装备查抄。运行如下下令，返回NPU装备信息。
    1. npu-smi info

    复制代码
    
    
  
  

• 如出现错误，大概是呆板上的NPU装备没有正常安装，或者NPU镜像被其他容器挂载。请先正常安装固件和驱动，或释放被挂载的NPU。
  
  
• 查抄docker是否安装。
  1. docker -v   #检查docker是否安装

  复制代码

如尚未安装，运行以下下令安装docker。

1. yum install -y docker-engine.aarch64 docker-engine-selinux.noarch docker-runc.aarch64

复制代码

• 
  
• 设置IP转发，用于容器内的网络访问。执行以下下令检察net.ipv4.ip_forward设置项的值，如果为1，可跳过此步骤。
  1. sysctl -p | grep net.ipv4.ip_forward

  复制代码

如果net.ipv4.ip_forward设置项的值不为1，执行以下下令设置IP转发。

1. sed -i 's/net\.ipv4\.ip_forward=0/net\.ipv4\.ip_forward=1/g' /etc/sysctl.conf
2. sysctl -p | grep net.ipv4.ip_forward

复制代码

•    
  
  •   
    
  
  
• 获取基础镜像。建议使用官方提供的镜像部署推理服务。 镜像地址{image_url}为：
  西南-贵阳一：swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2.1.0-cann_7.0.0-py_3.9-hce_2.0.2312-aarch64-snt9b-20240312154948-219655b
  
  1. docker pull {image_url}

  复制代码
  
  
• 
  
• 启动容器镜像。启动前请先按照参数分析修改${}中的参数。可以根据实际必要增加修改参数。
  

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

继续阅读请点击广告