2分钟建模!AI框架GauHuman:实现高质量3D人体快速重建和实时渲染

站长之家 2024-01-11 11:11:23新闻资讯
139

南洋理工大学与商汤科技的S-Lab团队近日发布了一项令人振奋的研究成果,推出了基于Gaussian Splatting的高效3D人体建模框架,被命名为GauHuman。该框架在快速重建和实时渲染方面取得了显著的突破,为数字领域的人体建模提供了高效解决方案。

GauHuman的主要特点之一是其在短时间内完成3D人体建模的能力。通过利用Gaussian Splatting技术,该框架仅需1到2分钟即可完成对单目人体视频的建模,这一速度远远领先于现有的方案。不仅如此,GauHuman还实现了高达189帧每秒的实时渲染,为用户提供更加流畅和逼真的体验。

GauHuman.png

这一框架的应用前景也非常广泛,覆盖了游戏、电影制作、虚拟现实等多个领域。用户只需提供一段单目人体视频以及相应的相机参数和人体动作体形参数(SMPL),即可在短时间内完成对3D数字人的高质量建模。这使得GauHuman在数字创意领域具有巨大的潜力,为创作者提供了更灵活、高效的工具。

GauHuman的建模框架基于Gaussian Splatting,并受到了之前人体神经辐射场(Human NeRF)的启发。通过对标准空间下的3D人体进行建模,再利用线性蒙皮算法(Linear Blend Skinning,LBS)将其转换到目标空间,GauHuman有效地解决了传统方法中的一些难题。在优化算法方面,GauHuman通过3D高斯球的初始化、分裂/克隆/合并操作以及剪枝等手段,进一步提高了建模效率和质量。

在实验中,GauHuman在ZJU_MoCap和MonoCap两个单目人体数据集上进行了比较,与多个先进的3D人体重建方法相比,包括NB、AN、AS、HumanNeRF等,GauHuman在PSNR、SSIM和LPIPS指标上表现出色,验证了其在性能上的卓越。

研究团队表示,虽然GauHuman已经取得了显著的成果,但仍存在一些待解决的问题,如如何从3D高斯中提取人体mesh以及从单目视频中恢复3D人体的细节等。不过,他们对GauHuman的未来发展充满信心,同时已经将代码完全开源,鼓励广大开发者共同参与,共同推动这一领域的研究和创新。

**参考链接:**

[GauHuman论文]https://arxiv.org/abs/2312.02973

[代码开源]https://github.com/skhu101/GauHuman

ai
THE END
tom
不图事事圆满 但图事事甘心。

相关推荐

Phantom:字节跳动开源的跨模态对齐AI视频生成框架
Phantom是字节跳动开源的一款先进的AI视频生成框架,它专注于跨模态对齐技术,能够将文本、图像等多种模态的信息有效融合,生成高质量、连贯的视频内容。作为字节跳动在人工智...
2025-02-20 新闻资讯
164

HelloMeme:开源AI面部表情与姿态迁移框架
HelloMeme是一款开源的面部表情与姿态迁移框架,它利用先进的AI技术,特别是基于最新的Diffusion生成技术,实现了将视频中的人物表情和姿态迁移到静态图像中,生成个性化、趣...
2025-01-10 新闻资讯
205

DiffSensei:个性定制化AI漫画生成框架
DiffSensei 是一个由北京大学、上海AI实验室及南洋理工大学共同推出的AI漫画生成框架。它旨在利用人工智能技术,将文本提示和角色图像转化为具有连贯性和视觉吸引力的漫画面板...
2025-01-09 新闻资讯
255

Sana:NVIDIA实验室开发的高效文本到图像生成框架
Sana是一个高效的文本到图像生成框架,由NVIDIA实验室开发。它能够生成高质量、高分辨率的图像,并且具有极快的生成速度。Sana的核心设计理念在于优化算法和硬件的协同工作,...
2024-12-31 新闻资讯
255

Leffa:Meta AI开源的可控人物图像生成框架
Leffa,全称为Learning Flow Fields in Attention,是Meta AI推出的一个用于可控人物图像生成的开源框架。它基于注意力机制和流场学习,能够精确控制人物的外观(如服装、配饰...
2024-12-23 新闻资讯
331

PSHuman:基于AI的照片转3D人像技术框架
传统的3D人体建模方法通常依赖于复杂的手动操作和专业软件,耗时且成本高昂。为了解决这一问题,香港科技大学提出了一种名为PSHuman的新框架,它能够将一张正面的人像照片转化...
2024-12-11 新闻资讯
524