AIGC:Flux.1 NF4 使用 diffusers 推理

[复制链接]
发表于 2024-9-30 14:32:11 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
背景介绍
Flux 参数量很大 (包罗 ext encoder2, autoencoder, 以及 diffusion model) , 使用Diffusers推理,显存占用 30GB。
有大佬做了 NF4 版本,效果依旧能打。所以本文使用 diffusers 推理 NF4版本的 Flux.1

本文重点
1:flux.1-dev-nf4 国内镜像加速下载
2:依赖环境安装
3:使用diffusers 推理 flux.1-dev-nf4 模型(我是批量跑图,所以需要这个)

模型下载
  1. # 国内镜像加速
  2. export HF_ENDPOINT=https://hf-mirror.com
  3. huggingface-cli do
复制代码
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表