腾讯混元发布图生视频模型并对外开源,同时上线对口型与动作驱动等玩法

腾讯混元发布图生视频模型并对外开源,同时上线对口型与动作驱动等玩法,并支持生成背景音效及 2K 高质量视频

腾讯混元发布图生视频模型并对外开源,同时上线对口型与动作驱动等玩法

基于图生视频的能力,用户只需上传一张图片,并简短描述希望画面如何运动、镜头如何调度等,混元即可按要求让图片动起来变成 5 秒的短视频,还能自动配上背景音效。此外,上传一张人物图片,并输入希望“对口型”的文字音频,图片中的人物即可“说话”或“唱歌”;使用“动作驱动”能力,还能一键生成同款跳舞视频。

目前用户通过混元 AI 视频官网(https://video.hunyuan.tencent.com/)即可体验,企业和开发者可在腾讯云申请使用 API 接口使用。

此次开源的图生视频模型,是混元文生视频模型开源工作的延续,模型总参数量保持 130 亿,模型适用于多种类型的角色和场景,包括写实视频制作、动漫角色甚至 CGI 角色制作的生成。

开源内容包含权重、推理代码lora 训练代码,支持开发者基于混元训练专属 LoRA 等衍生模型。目前在 Github、HuggingFace 等主流开发者社区均可下载体验。

混元开源技术报告披露,混元视频生成模型具备灵活的扩展性,图生视频文生视频在相同的数据集上开展预训练工作。在保持超写实画质、流畅演绎大幅度动作、原生镜头切换等特性的基础上,让模型能够捕捉到丰富的视觉和语义信息,并结合图像、文本、音频和姿态等多种输入条件,实现对生成视频的多维度控制

目前,混元开源系列模型已经完整覆盖文本、图像、视频和 3D 生成等多个模态,在 Github 累计获得超 2.3 万开发者关注和 star。

附:混元图生视频开源链接 

Github:https://github.com/Tencent/HunyuanVideo-I2V

Huggingface:https://huggingface.co/tencent/HunyuanVideo-I2V

© 版权声明

相关文章