AIGC开发平台AI开源项目

Unique3D

个创新的单图像 3D 网格生成工具,以其高保真度、高效训练和优化以及强泛化能力脱颖而出

标签:
chatglm
Unique3D

Unique3D 是什么:

Unique3D 是一个由清华大学和 AIUNI AI 团队开发的高效且高质量的单图像 3D 网格生成工具。

主要特点:

  • 高保真度与细节:能够在不到 30 秒的时间内,从单个正交 RGB 图像生成高保真度的纹理网格,生成的网格在纹理和几何细节上与原始输入图像高度一致。
  • 高效训练与优化:仅需 8 个 RTX 4090 GPU 在 5 天内即可完成训练,相比以往的方法,大幅减少了每例优化时间,解决了不一致性问题。
  • 强泛化能力:该框架具有强大的泛化能力,能够处理各种物体的图像,并生成高质量的 3D 网格。
  • 多视角扩散模型与法线扩散模型:通过多视角扩散模型生成多视角图像及其法线图,再通过多级放大过程逐步提高生成正交多视角的分辨率,最后利用即时且一致的网格重建算法 ISOMER,将颜色和几何先验完全整合到网格结果中。

主要功能:

  • 单图像 3D 网格生成:输入单个 RGB 图像,输出高保真度的 3D 纹理网格。
  • 多视角图像生成:从输入图像生成四个正交多视角图像。
  • 分辨率提升:通过多级放大过程,逐步提高生成多视角图像的分辨率。
  • 法线图生成:训练法线扩散模型,为多视角图像生成对应的法线图,并提升至高分辨率空间。
  • 网格重建:利用 ISOMER 算法,从高分辨率的颜色图像和法线图重建高质量的 3D 网格。

使用示例:

  • 输入:一张任意物体的单正交 RGB 图像。
  • 处理过程
    1. 使用多视角扩散模型生成四个正交多视角图像。
    2. 通过多级放大过程提高生成多视角图像的分辨率。
    3. 训练法线扩散模型生成对应的法线图,并提升分辨率。
    4. 利用 ISOMER 算法从高分辨率颜色图像和法线图重建 3D 网格。
  • 输出:高保真度的纹理 3D 网格,可用于 3D 建模、虚拟现实、增强现实等领域。

总结:

Unique3D 作为一个创新的单图像 3D 网格生成工具,以其高保真度、高效训练和优化以及强泛化能力脱颖而出。它通过结合多视角扩散模型、法线扩散模型和 ISOMER 网格重建算法,实现了从单图像到高质量 3D 网格的快速转换,在几何和纹理细节上显著优于其他同类工具,为 3D 内容创作和相关领域提供了强大的技术支持。

    相关导航