图像模型开源还得是 FLUX!
Black Forest Labs 刚刚宣布开源旗舰图像模型FLUX.1 Kontext [ dev ] ,专为图像编辑打造,还能直接在消费级芯片上运行。
只有小小的12B,更少的参数,更快的推理,性能更是媲美GPT-image-1等一众闭源模型。
现在 FLUX.1 Kontext [ dev ] 可以让小狗迅速离开画面,为小老鼠戴上胡须,添加文字、修改背景也不在话下。
或者多次输入指令,直到让小哥成为酒吧里最靓的崽(bushi),直到让画面符合咱们需求。
具体来说,FLUX.1 Kontext [ dev ] 的主要特点有:
可以根据编辑指令直接更改现有图像,以及进行精确的本地和全局编辑。
不用做任何微调,就能直接引用里面的人物角色、风格样式和物品元素。
允许用户通过多次连续编辑优化图像 , 同时将视觉漂移降到最低。
专门为 NVIDIA Blackwell 进行了权重优化。
网友们也立马上手试玩,制作了一个旅行的 CPU 青蛙?
旅行必备的墨镜,还有抗寒的帅气红色毛衣也要准备妥当。(蛙蛙:出片,我势在必行)
或者 copy 一下自己喜欢的动漫角色。
轻轻松松店铺打烊,结束打工人完美的一天~(doge)
还有网友脑洞大开,试着和LoRA结合,造出了一个 Kontext 风格化肖像制作 APP。
现在 FLUX.1 Kontext [ dev ] 还完全支持ComfyUI。
温馨提示,官方直接开放了试玩 API,只需点击文末链接、上传图片就可以立即爽玩!
网友看罢表示,Black Forest Labs 不愧是图像届的 DeepSeek。
FLUX.1 Kontext 的开放权重变体
FLUX.1 Kontext 模型上个月一经发布,就因为其强大的上下文生成和编辑功能广受好评。
与现有的文本到图像模型不同,FLUX.1 Kontext 系列执行上下文图像生成,可以直接使用文本和图像进行提示,并无缝提取和修改视觉细节。
目前已经发布了适合快速迭代的专业版FLUX.1 Kontext [ pro ] 和高配版FLUX.1 Kontext [ max ] 。
FLUX.1 Kontext [ dev ] 作为 FLUX.1 Kontext 最新发布的开源版本,不仅继承了其图像生成的优势,它还更专注于编辑任务,可以直接在消费类硬件上运行。
首先模型架构上,依旧基于的是FLUX.1 模型,它是一种在图像自动编码器的潜在空间中训练的整流流 Transformer 模型,由双流块和单流块混合构建而成。
在此基础上,FLUX.1 Kontext [ dev ] 采用标记序列构建和位置信息编码进行优化:
标记序列构建:图像通过冻结的 FLUX 自动编码器,编码成潜在的上下文图像标记,并输入到模型的视觉流中。
位置信息编码:通过三维旋转位置嵌入(3D RoPE)对位置信息进行编码,为上下文标记的嵌入提供恒定偏移量。并将其视作为虚拟时间步,以清晰分离上下文和目标块,同时保持它们的内部空间结构。
然后使用整流流匹配损失进行训练,在训练时从 FLUX.1 的文本到图像检查点开始,收集并整理数百万个关系对进行模型优化。
优化后得到的流匹配模型进行潜在对抗扩散蒸馏(LADD),在减少采样步骤的同时提高样本质量,使 FLUX.1 Kontext [ dev ] 更高效。
最终得到的 FLUX.1 Kontext [ dev ] 模型包含120 亿参数,可以更专注于编辑任务,支持迭代编辑,可以在各种场景和环境中保留角色特征,并允许用户进行精确的局部或全局编辑。
图像编辑新标准
实验引入自研的KontextBench 基准进行模型性能验证,该基准包含 1026 个图像 - 提示对,涵盖局部编辑、全局编辑、角色参考、风格参考和文本编辑五个任务类别。
结果显示 FLUX.1 Kontext [ dev ] 在许多类别上都优于现有的开放式图像编辑模型和封闭模型,例如 Bytedance Bagel、HiDream-E1-Full 以及 OpenAI 的 GPT-image-1 等。
另外,FLUX.1 Kontext [ dev ] 还专门针对新的NVIDIA Blackwell 架构进行了TensorRT权重优化,可以在保持高质量的图像编辑性能的同时,极大地提高推理速度并减少内存使用量。
官方还提供了 BF16、FP8 和 FP4 TensorRT 的权重变体,用户可以自行对其速度、效率和质量进行调整,综合确保 FLUX.1 Kontext [ dev ] 充分利用最新的硬件功能。
在实际用户的反馈中,也发现 FLUX.1 Kontext [ dev ] 的推理速度较前代提升了 4 至 5 倍,模型在NVIDIA H100 GPU上运行,通常 5 秒内能够完成,在 Replicate 上的运行成本约为 0.0067USD,或每 1USD 运行 149 次。
但是也有网友提到,在 MacBook Pro 的芯片上运行时,迭代时间较长,每次迭代都需要 1 分钟左右。
那么欢迎你也一起来试一试,并将你的体验分享至评论区~
试玩链接:https://huggingface.co/spaces/black-forest-labs/FLUX.1-Kontext-Dev
论文链接:https://arxiv.org/abs/2506.15742
代码链接:https://github.com/black-forest-labs/flux/blob/main/docs/image-editing.md
参考链接:
[ 1 ] https://x.com/bfl_ml/status/1938257909726519640
[ 2 ] https://bfl.ai/announcements/flux-1-kontext-dev
[ 3 ] https://bfl.ai/models/flux-kontext
[ 4 ] https://huggingface.co/black-forest-labs/FLUX.1-Kontext-dev
[ 5 ] https://x.com/ComfyUI/status/1938259329498681385
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
量子位 AI 主题策划正在征集中!欢迎参与专题365 行 AI 落地方案,一千零一个 AI 应用,或与我们分享你在寻找的 AI 产品,或发现的AI 新动向。
也欢迎你加入量子位每日 AI 交流群,一起来畅聊 AI 吧~
一键关注 点亮星标
科技前沿进展每日见
登录后才可以发布评论哦
打开小程序可以发布评论哦