快科技 6 月 4 日消息，据媒体报道，英伟达在台北举办的 GTC 活动上正式发布 Cosmos 3，并将其称为全球首个 " 完全开放的全能模型 "。

该模型面向机器人、自动驾驶汽车及视觉智能体，主打基于视觉的推理能力，同时可生成文本、图像、视频、环境声音和动作等多模态内容。

据英伟达介绍，Cosmos 3 采用由推理 Transformer 与生成 Transformer 组成的双模块架构。其中，推理 Transformer 负责理解物体交互、运动轨迹及时空关系，生成 Transformer 则在此基础上输出视频内容与动作轨迹。

这一设计使模型能够先理解现实世界中的物理互动，再生成对应的画面和行为结果，从而显著提升对复杂环境的建模能力。

英伟达指出，Cosmos 3 主要致力于解决机器人、自动驾驶车辆和视觉智能体在真实环境理解方面长期面临的难题。

当前，相关训练数据仍然有限，仿真系统也较为分散，导致机器在学习物理世界规律时面临较高门槛。Cosmos 3 的目标是以更高的物理准确性，原生理解并生成文本、图像、视频、环境声音及动作信息。

从应用定位来看，英伟达表示，Cosmos 3 既可作为视觉语言模型使用，也可作为模拟物理环境、预测未来世界状态的世界模型，还可作为其他世界模型的基础平台。

在产品规划方面，响应精度最高的 Cosmos 3 Super 与轻量版本 Cosmos 3 Nano 已正式可用，面向边缘设备实时推理的 Cosmos 3 Edge 将于后续推出。

在技术层面，Transformer 是一类擅长处理序列数据中上下文关系的深度学习神经网络，可通过并行计算提升生成效率。英伟达此次将推理与生成能力相结合，旨在为机器人与自动驾驶系统提供更接近真实物理世界的基础模型能力。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：鹿角