字节跳动放大招!OmniHuman数字人模型即将上线:一张图+一段音频即可生成视频

快科技 2025-02-08 13:44:05新闻资讯
203

近期,抖音集团旗下图片视频工具即梦AI在官方社交媒体上发布了一条新功能上线预告片。

视频显示,新功能采用了全新的多模态视频生成模型OmniHuman,让用户仅需输入一张图片和一段音频,就可以生成一条生动的AI视频,有望大幅提升AI短片的制作效率和质量。

OmniHuman技术主页信息显示,该模型为字节跳动自研的闭源模型,可支持肖像、半身以及全身等不同尺寸的图片输入,并根据输入的音频,在视频中让人物生成与之匹配的动作,包括演讲、唱歌、乐器演奏以及移动。

对于人物视频生成中常见的手势崩坏,也相比现有方法取得了显著的改善。

此外,对动漫、3D卡通等非真人图片输入的支持效果也较为出色,生成的视频能保持特定风格和原有的运动模式。

根据技术主页展示的演示效果来看,OmniHuman的生成效果已经具有较高的自然度。为防止该项技术被不当利用,字节跳动技术团队在主页中特别标注称,OmniHuman将不会对外提供下载。

即梦AI相关负责人透露,该模型目前已具备较好的表现,但在生成影视真实级别的视频上仍存在一定的提升空间。

由其支持的多模态视频生成功能会在即梦上以小范围内测的形式进行调优调整,并逐步开放。

该负责人同时表示,即梦还会对这一功能设置严格的安全审核机制,并且对输出的视频标注水印以作提醒,从而确保AI发挥正面、积极的作用,助力视频创作者更好地实现想象力的表达。

2.webp

数字人 字节跳动 OmniHuman
THE END
tom
不图事事圆满 但图事事甘心。

相关推荐

Phantom:字节跳动开源的跨模态对齐AI视频生成框架
Phantom是字节跳动开源的一款先进的AI视频生成框架,它专注于跨模态对齐技术,能够将文本、图像等多种模态的信息有效融合,生成高质量、连贯的视频内容。作为字节跳动在人工智...
2025-02-20 新闻资讯
158

FlashVideo:字节跳动和香港大学联合推出的高分辨率视频生成框架
FlashVideo是一种高效的高分辨率视频生成框架,旨在解决传统单阶段扩散模型在计算成本上的不足。该框架通过两阶段方法生成高分辨率视频,首先使用大型模型在低分辨率下生成与...
2025-02-12 新闻资讯
173

VideoWorld:字节跳动开源的自回归视频生成模型
VideoWorld是由北京交通大学、中国科学技术大学和字节跳动联合开发的一款自回归视频生成模型。该模型旨在探索深度生成模型是否能够通过未标注的视频数据学习复杂知识,包括规...
2025-02-11 新闻资讯
192

Loopy:字节跳动开发的一款音频驱动的AI视频生成模型
Loopy是由字节跳动和浙江大学联合开发的一款基于音频驱动的AI视频生成模型。它能够将静态照片或图像转化为动态视频,使照片中的人物能够根据输入的音频文件进行面部表情和头部...
2025-01-31 新闻资讯
223

StructLDM:高质量、多样化三维数字人生成模型
StructLDM是一种从2D图像集合中生成3D人体的新型范式。它利用先进的深度学习技术和计算机视觉算法,从图像和视频中学习人体的高维表征,并通过结构化的自动解码器和隐空间扩散...
2025-01-16 新闻资讯
247

LatentSync:字节跳动开源的视频人物唇部动作与音频精准同步模型
LatentSync是一项由字节跳动联合北京交通大学提出的创新技术,它代表了一种新型的唇部同步框架。该框架基于音频条件潜在扩散模型,旨在实现视频中人物唇部动作与音频的精准同...
2025-01-06 新闻资讯
377