AIGC:Flux.1 NF4 使用 diffusers 推理

打印 上一主题 下一主题

主题 1765|帖子 1765|积分 5295

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
背景介绍
Flux 参数量很大 (包罗 ext encoder2, autoencoder, 以及 diffusion model) , 使用Diffusers推理,显存占用 30GB。
有大佬做了 NF4 版本,效果依旧能打。所以本文使用 diffusers 推理 NF4版本的 Flux.1

本文重点
1:flux.1-dev-nf4 国内镜像加速下载
2:依赖环境安装
3:使用diffusers 推理 flux.1-dev-nf4 模型(我是批量跑图,所以需要这个)

模型下载
  1. # 国内镜像加速
  2. export HF_ENDPOINT=https://hf-mirror.com
  3. huggingface-cli do
复制代码
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

天津储鑫盛钢材现货供应商

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表