腾讯混元发布Voyager3D世界模型

as22

9月2日消息，腾讯混元宣布，混元3D世界模型系列最新成员——HunyuanWorld-Voyager（简称混元Voyager）正式发布，这也是业界首个支持原生3D重建的超长漫游世界模型。

据介绍，该模型聚焦于AI在空间智能领域的应用扩展，将为虚拟现实、物理仿真、游戏开发等领域提供高保真的3D场景漫游能力。

混元Voyager突破了传统视频生成在空间一致性和探索范围上的局限，能够生成长距离、世界一致的漫游场景，支持将视频直接导出为3D格式。



混元Voyager 3D输入-3D输出的特性，与此前已开源的混元世界模型 1.0 高度适配，可进一步扩展 1.0 模型漫游范围，提升复杂场景的生成质量，并可对生成的场景做风格化控制和编辑。不仅如此，混元Voyager 还可支持视频场景重建、3D物体纹理生成、视频风格定制化生成、视频深度估计等多种3D理解与生成应用，展现出空间智能的潜力。





当前，可交互的视频模型已经展现出在世界模型生成上的潜力。然而，实际应用中（如虚拟现实、物理仿真等）通常需要能够建模的显式 3D 场景，纯视频的生成内容很难为用户提供更加真实的交互形式。另一方面，直接生成3D形式的世界场景，虽具备更好的空间结构的一致性和交互应用的拓展性，却受限于3D训练数据稀缺与3D表征内存效率低下等问题，无法泛化到更多的类别和更大场景中。

混元Voyager框架创新性地将场景深度预测引入视频生成过程，融合了视频生成与3D建模优势，基于相机可控的视频生成技术，从初始场景视图和用户指定相机轨迹中，合成可自由控制视角、空间连贯的RGB-D视频（包含RGB图像和深度信息的点云视频）。



用户可通过键盘或者摇杆控制生成对应的视频画面，并通过3D空间记忆保持画面的高度一致性，实现与可交互视频模型如Genie3等相同的功能。同时，Voyager还支持将生成视频无损导出3D点云，无需依赖COLMAP等额外重建工具。



混元Voyager首次通过空间与特征结合的方式，支持原生的3D记忆和场景重建，避免了传统后处理带来的延迟和精度损失。同时，在输入端加入3D条件保证画面视角精准，输出端直接生成3D点云，适配多种应用场景。额外的深度信息还能支持视频场景重建、3D物体纹理生成、风格化编辑和深度估计等功能。

另外，Voyager还引入了可扩展的世界缓存机制，基于1.0模型生成的初始3D点云缓存，将其投影到目标相机视图，为扩散模型提供指导。此外，生成的视频帧还会实时更新缓存，形成闭环系统，支持任意相机轨迹，同时维持几何一致性。这不仅扩展了漫游范围，还为1.0模型补充新视角内容，提升整体生成质量。



该模型在斯坦福大学李飞飞团队发布的世界模型基准测试WorldScore上位居综合能力首位，超越现有开源方法，在视频生成和3D重建任务中均表现出色。在视频生成和视频3D重建两个任务上，Voyager也均取得更好的结果。



腾讯混元世界模型系列开源正不断加速。7月，混元3D世界模型1.0发布并开源，成为业界首个兼容传统CG管线的可漫游世界生成模型。8月，推出1.0 Lite版，降低显存需求，支持消费级显卡部署。仅两周后，针对遮挡视图和探索范围限制，混元团队进一步优化，推出超长漫游世界模型Voyager。

此外，在基础模型方面，混元开源了MoE架构的代表性模型混元large、混合推理模型Hunyuan-A13B，以及多个面向端侧场景的小尺寸模型，最小仅0.5B参数。最新开源的翻译模型Hunyuan-MT-7B，在国际翻译比赛中斩获31个语种中的30项冠军。