腾讯混元开源角色定制化图像生成插件

InstantCharacter，兼容生图模型Flux

4月18日，腾讯混元宣布开源定制化图像生成插件InstantCharacter，并实现了对开源文生图模型Flux的兼容。通过这个插件，只需要一张图加一句话，你可以让任何角色以你想要的姿势出现在任何地方。

InstantCharacter的优势在于可以确保角色在不同场景中的一致性和真实性、画质和精度高，同时具有灵活的文本编辑性，用户可以根据需要灵活切换任意场景，让人物生成任意动作。

其在角色一致性和图像生成的精确度上超过了此前业界的相关技术，能够处理多种风格和复杂度的图像。通过这个插件，内容创作者可以让生成的角色保持高度一致，能够更高效地创作出符合其需求的视觉作品，可以用于连环画、影片创作等场景。

腾讯混元团队发布的技术报告中比较了多个模型的效果。可以发现，开源的InstantCharacter实现的效果媲美GPT 4o等业界领先模型。

现有的基于学习的方法主要依赖于 U-Net 架构，但在泛化能力和图像质量上存在局限性。而基于优化的方法则需要针对特定主体进行微调，这不可避免地降低了文本可控性。为了解决这些挑战，InstantCharacter 利用DiT模型构建了一个创新的框架。

框架引入了一个可扩展的适配器（adapter），采用多个transformer encoder，能够有效处理开放域的角色特征，并与现代扩散变换器的潜在空间无缝交互。这种设计使得系统能够灵活适应不同的角色特征。

同时，为了有效训练框架，我们构建了一个包含千万级样本的大规模角色数据集。数据集被系统地组织为成对（多视角角色）和非成对（文本-图像组合）子集。这种双数据结构使得身份一致性和文本可编辑性能够通过不同的学习路径同时优化。

此外，InstantCharacter项目的研发社区团队InstantX Team亦有贡献，在此特别感谢InstantX。

项目官网

https://instantcharacter.github.io/

代码

https://github.com/Tencent/InstantCharacter

Hugging Face Demo

https://huggingface.co/spaces/InstantX/InstantCharacter