MFLUX: 在Mac上本地运行强大的FLUX模型
MFLUX简介MFLUX(MacFLUX)是一个基于Apple MLX框架的FLUX模型实现,旨在让用户能够在Mac电脑上本地运行强大的FLUX图像生成模型。FLUX模型由Black Forest Labs开发,是一种先辈的文本到图像生成模型。
MFLUX的焦点理念是保持代码简便明白,同时优先考虑可读性而非通用性和性能。它是Hugging Face Diffusers库中FLUX实现的逐行移植版本,利用Apple MLX框架重新实现。
https://img-blog.csdnimg.cn/img_convert/e5c5bcf9c83f81b5a7d5540c3e52c519.png
MFLUX的主要特点
[*]支持FLUX.1-Schnell和FLUX.1-Dev两种模型
[*]代码简便,网络架构硬编码,最小化依赖
[*]除tokenizer外,所有模型都利用MLX从头实现
[*]支持4位和8位量化,可大幅提升生成速度和降低内存占用
[*]提供灵活的命令行参数,方便调整生成参数
安装和利用
安装步骤
[*]克隆MFLUX堆栈:
git clone git@github.com:filipstrand/mflux.git
[*]进入项目目录并创建假造情况:
cd mflux && python3 -m venv .venv && source .venv/bin/activate
[*]安装依赖:
pip install -r requirements.txt
生成图像
MFLUX提供了简单的命令行接口用于生成图像。以下是利用Schnell模型生成图像的示例:
python main.py --model schnell --prompt "Luxury food photograph" --steps 2 --seed 2
对于更强大但速度较慢的Dev模型,可以增加时间步数:
python main.py --model dev --prompt "Luxury food photograph" --steps 25 --seed 2
⚠️ 注意:如果模型尚未下载,步伐会自动开始下载模型权重(Schnell或Dev模型约34GB)。可以利用量化版本来减小模型体积。
命令行参数
MFLUX提供了丰富的命令行参数,允许用户灵活调整生成过程:
[*]--prompt: 生成图像的文本形貌(必填)
[*]--model或-m: 利用的模型,可选"schnell"或"dev"(必填)
[*]--output: 输出图像文件名(默以为"image.png")
[*]--seed: 随机数种子(默认基于时间)
[*]--height: 输出图像高度(默认1024像素)
[*]--width: 输出图像宽度(默认1024像素)
[*]--steps: 推理步数(默认4步)
[*]--guidance: 引导系数(仅用于"dev"模型,默认3.5)
[*]--path: 本地模型路径
[*]--quantize或-q: 量化级别(4位或8位)
性能对比
MFLUX在不同Mac设备上的图像生成速度各不雷同。以下是利用Schnell模型,2个时间步,1024x1024分辨率生成图像的性能数据:
设备用户报告时间备注M3 Max@karpathy~20sM2 Ultra@awni<15s2023 M2 Max (96GB)@explorigin~25s2021 M1 Pro (16GB)@qw-in~175s可能会导致Mac卡顿2023 M3 Pro (36GB)@kush-gupt~80s2020 M1 (8GB)@mbvillaverde~335s512x512分辨率2022 M1 MAX (64GB)@BosseParra~55s2021 M1 Pro (32GB)@filipstrand~160s2023 M2 Max (32GB)@filipstrand~70s 高级功能:量化
MFLUX支持4位和8位量化模式,可以显著提升生成速度并降低内存占用。以下是利用8位量化模式生成图像的示例:
python main.py \
--model schnell \
--steps 2 \
--seed 2 \
--quantize 8 \
--height 1920 \
--width 1024 \
--prompt "Tranquil pond in a bamboo forest at dawn, the sun is barely starting to peak over the horizon, panda practices Tai Chi near the edge of the pond, atmospheric perspective through the mist of morning dew, sunbeams, its movements are graceful and fluid — creating a sense of harmony and balance, the pond's calm waters reflecting the scene, inviting a sense of meditation and connection with nature, style of Howard Terpning and Jessica Rossier"
https://img-blog.csdnimg.cn/img_convert/33b6d9b69967cbc5f2e072e5780e18a6.jpeg
量化不仅可以加速生成过程,还能大幅减少模型占用的磁盘空间:
4 位8 位原始 (16 位)9.85GB18.16GB33.73GB 保存和加载量化模型
MFLUX允许用户将量化后的模型保存到本地磁盘,以便后续快速加载利用:
python save.py \
--path "/Users/username/Desktop/schnell_8bit" \
--model schnell \
--quantize 8
加载并利用保存的量化模型:
python main.py \
--path "/Users/username/Desktop/schnell_8bit" \
--model schnell \
--steps 2 \
--seed 2 \
--height 1920 \
--width 1024 \
--prompt "Your prompt here"
结语
MFLUX为Mac用户提供了在本地运行强大FLUX模型的便捷方式。通过简便的实现和灵活的设置选项,用户可以轻松生成高质量图像,同时得益于Apple MLX框架的优化,实现较快的生成速度。量化功能进一步增强了MFLUX的实用性,使其能够在资源受限的设备上高效运行。
只管MFLUX目前仍有一些限定,如一次只能生成一张图像、不支持负面提示词等,但项目团队正在积极开发新功能,如LoRA适配器、LoRA微调以及前端界面支持等。随着持续的改进和社区贡献,MFLUX有望成为Mac平台上强大而灵活的图像生成工具。
文章链接;www.dongaigc.com/a/mflux-local-flux-model-mac
https://www.dongaigc.com/a/mflux-local-flux-model-mac
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]