LuminaBrush 在图像上绘制照明效果的构建交互式工具

LuminaBrushLuminaBrush 是一个构建交互式工具以在图像上绘制照明效果的项目。 该框架采用两阶段方法:第一阶段将图像转换为“均匀照明”的外观,第二阶段利用用户涂鸦生成照明效果。 相关链接HF 演示:: 目前基于 Flux。

LuminaBrush

LuminaBrush 是一个构建交互式工具以在图像上绘制照明效果的项目。该框架采用两阶段方法:第一阶段将图像转换为“均匀照明”的外观,第二阶段利用用户涂鸦生成照明效果。

图片

相关链接

HF 演示:https://huggingface.co/spaces/lllyasviel/LuminaBrush

GitHub:https://github.com/lllyasviel/LuminaBrush

演示

LuminaBrush 目前基于 Flux。

种子为 12345 的示例:

图片图片图片

框架

图片

LuminaBrush 是一个两阶段框架。第一阶段(左侧)将图像转换为“均匀照明”的外观(例如,由均匀分布的白色环境光源照亮的外观);第二阶段(右侧)在用户涂鸦的指导下为这些“均匀照明”的外观生成照明效果。

将照明绘制问题分解为两个阶段使学习变得更容易、更直接——否则(例如,如果只使用一个阶段)可能需要考虑外部约束/规定(如光传输一致性等)来稳定模型行为。

我们首先收集一组相对较小的、光照相对均匀的图像 - 例如这些:

图片

(然后我们还使用在此集合上训练的 Flux LoRA 生成的图像来扩展此集合)

使用这些“均匀照明”的图像作为中间表示具有一些优势,例如避免 3D 反照率中网格边界过于锐利或表面过于平坦。而且这些图像的细节足以处理皮肤纹理细节、头发、毛发等。

然后,我们合成随机法线来随机重新照亮那些“均匀照明”的图像,以训练一个可以从任何输入图像中提取“均匀照明”外观的模型。

之后,我们从数百万张高质量的野生图像中提取“均匀照明”的外观,构建配对数据来训练最终的交互式照明绘制模型。

这种方法的一个明显的副产品是应用程序可以独立使用“均匀照明的舞台”来“愉悦”图像 - 我们还为想要使用它的人构建了一个 HF 空间:

https://huggingface.co/spaces/lllyasviel/lumina_brush_uniform_lit

图片

相关资讯

LineArt:无需训练的高质量设计绘图生成方法,可保留结构准确性并生成高保真外观

本文经AIGC Studio公众号授权转载,转载请联系出处。 今天给大家介绍一种无需训练的基于扩散模型的高质量设计绘图外观迁移方法LineArt,该方法可以将复杂外观转移到详细设计图上的框架,可促进设计和艺术创作。 现有的图像生成技术在细节保留和风格样式一致性方面存在局限,尤其是在处理专业设计图时。

OminiControl:一个新的FLUX通用控制模型,单个模型实现图像主题控制和深度控制

OminiControl 也开源了其可控生成模型。 OminiControl 是一个最小但功能强大的FLUX通用控制框架,可以一个模型实现图像主题控制和深度控制。 比如一个提示词加一个服装图片就能让生成的人物穿上服装。

你要跳舞么?复旦&微软提出StableAnimator:可实现高质量和高保真的ID一致性人类视频生成

本文经AIGC Studio公众号授权转载,转载请联系出处。 由复旦、微软、虎牙、CMU的研究团队提出的StableAnimator框架,实现了高质量和高保真的ID一致性人类视频生成。 StableAnimator 生成的姿势驱动的人体图像动画展示了其合成高保真和 ID 保留视频的能力。