丹摩征文活动|FLUX.1 和 ComfyUI:从部署到上手,轻松驾驭!
FLUX.1 和 ComfyUI:从部署到上手,轻松驾驭!
FLUX.1历史曲线
黑森林实验室推出了一款名为FLUX.1的先进图像生成模型,根据不同用户需求,提供了三种独特的版本。
FLUX.1-pro:作为专为企业打造的强大闭源版本,它提供卓越的性能和生成能力,尤其在理解提示词、提高视觉质量和细节表现,以及输出多样性方面表现优异,非常适合需要高效图像生成的企业。企业用户可以通过官方API使用此版本,并享受定制化服务。
FLUX.1-dev:这是一个开放源代码的版本,但有商用限制。基于FLUX.1-pro开发,保留了它的高精度提示词识别能力,并对效率进行了优化,适合开发者用于研究和开发项目。
FLUX.1-schnell:针对个人用户和本地开发者的开源版本,允许商业用途,采用Apache 2.0许可证。该版本的亮点是生成速度快且占用内存小,非常适用于资源有限的环境。
这些版本为不同需求的用户提供了灵活的选择,从企业级应用到个人开发,都能找到合适的解决方案。
创建流程
使用丹摩来创建实例,进入控制台-GPU云实例,点击创建实例:
在创建实例页面时,首先需要选择付费模式。如果您的需求是短期的,您可以选择按需付费或者日包形式;如果是长期使用,则推荐选择月度套餐以节省成本。
接着,您需要选择所需的GPU数量和型号。对于首次创建实例用户,我们建议选择以下配置:
- 选择按需付费模式
- 选择1个GPU
- 选择NVIDIA-GeForce-RTX-4090:这种配置提供60GB内存和24GB显存(特别是像LLaMA3.1 8B版本这样的模型至少需要16GB显存)。
然后,您需要根据需求配置数据硬盘的大小。默认情况下,每个实例附带50GB的数据硬盘。由于FLUX.1模型的数据量较大,我们建议将硬盘扩展至150GB,以保证模型和数据的顺利运行。
在接下来的步骤中,您需要选择适合的系统镜像。平台为用户提供了一系列基础镜像,这些镜像已经预装了所需的环境和框架,可以帮助您快速启动项目。您只需选择相应的框架即可,节省了手动安装的时间。
在这里,我们建议选择PyTorch作为您的框架。具体来说,您可以挑选PyTorch 2.4.0版本,该版本具备强大的功能和社区支持,非常适合深度学习和人工智能项目的开发。通过这一选择,您将获得一个稳定且高效的开发环境。
为保证安全登录,创建密钥对,输入自定义的名称,然后选择自动创建并将创建好的私钥保存的自己电脑中,以便后续本地连接使用。
创建好密钥对后,选择刚刚创建好的密钥对,并点击立即创建,等待一段时间后即可启动成功!
实例
接下来将基于平台提供的JupyterLab工具,演示fp16版本的部署流程,启动JupyterLab,并创建终端:
部署ComfyUI
在终端中执行以下命令克隆ComfyUI代码:
# github官方代码仓库
git clone https://github.com/comfyanonymous/ComfyUI.git
# gitCode-github加速计划代码仓库
git clone https://gitcode.com/gh_mirrors/co/ComfyUI.git
克隆完成后可看到如下目录:
终端进入/root/workspace/ComfyUI
目录,执行以下命令,安装ComfyUI需要的依赖:
cd ComfyUI/
pip install -r requirements.txt --ignore-installed
执行以下命令,启动ComfyUI:
python main.py --listen
看到服务成功启动,说明ComfyUI部署成功!
部署FLUX.1
推荐您阅读ComfyUI官方使用FLUX.1示例,以下是基于丹摩平台的部署教程。平台已预制FLUX.1相关资源,您可通过内网高速下载:
# 下载完整FLUX.1-dev模型
wget http://file.s3/damodel-openfile/FLUX.1/FLUX.1-dev.tar
# 下载完整FLUX.1-schnell模型
wget http://file.s3/damodel-openfile/FLUX.1/FLUX.1-dev.tar
# 下载完整Clip模型
wget http://file.s3/damodel-openfile/FLUX.1/flux_text_encoders.tar
此处以FLUX.1-dev为例演示,首先下载完整FLUX.1-dev模型:
wget http://file.s3/damodel-openfile/FLUX.1/FLUX.1-dev.tar
解压文件:
tar -xf FLUX.1-dev.tar
解压后完成后可看到如下目录:
把其中的一些文件移至ComfyUI指定目录:大模型文件flux1-dev.safetensors
需要移动至/root/workspace/ComfyUI/models/unet/
文件夹中;vae文件ae.safetensors
需移动至/root/workspace/ComfyUI/models/vae/
文件夹中。
# 进入解压后的文件夹
cd /root/workspace/FLUX.1-dev
# 移动文件
mv flux1-dev.safetensors /root/workspace/ComfyUI/models/unet/
mv ae.safetensors /root/workspace/ComfyUI/models/vae/
接下来下载完整Clip模型:
# 进入JupyterLab根目录
cd /root/workspace
# 下载文件
wget http://file.s3/damodel-openfile/FLUX.1/flux_text_encoders.tar
解压文件:
tar -xf flux_text_encoders.tar
解压后完成后可看到如下目录:
把其中的一些文件移至ComfyUI指定目录:
# 进入解压后的文件夹
cd /root/workspace/flux_text_encoders
# 移动文件
mv clip_l.safetensors /root/workspace/ComfyUI/models/clip/
mv t5xxl_fp16.safetensors /root/workspace/ComfyUI/models/clip/
使用流程
终端进入ComfyUI目录,执行以下命令,启动ComfyUI:
cd /root/workspace/ComfyUI
python main.py --listen
启动成功,host为0.0.0.0
,端口为8188
:
Starting server
To see the GUI go to: http://0.0.0.0:8188
通过丹摩平台提供的端口映射能力,把内网端口映射到公网; 进入GPU 云实例页面,点击操作-更多-访问控制:
点击添加端口,添加服务对应端口:
添加成功后,通过访问链接即即可打开ComfyUI交互界面:
展示效果
端口:
[外链图片转存中…(img-yeWzyddc-1731393024557)]
添加成功后,通过访问链接即即可打开ComfyUI交互界面:
[外链图片转存中…(img-4GZ67o4E-1731393024557)]