英伟达开源Cosmos:加速物理AI开发,直解人形机器人训练难点黄仁勋nvidia

这是一个由先进的生成式世界基础模型(WFM)、高级视频tokenizer、护栏、加速视频处理流水线组成的平台,针对NVIDIA数据中心GPU进行了优化,将有助于推动自动驾驶汽车、机器人等物理AI系统的发展。

物理AI模型的开发成本很高,需要大量真实数据和测试。Cosmos世界基础模型使开发者能够轻松生成大量基于物理学的逼真合成数据,以用于训练和评估其现有的模型。开发者还可以通过微调Cosmos世界基础模型来构建自定义模型。

其首批用户包括1X、思灵机器人(AgileRobots)、Agility、FigureAI、Foretellix、傅利叶(Fourier)、银河通用(Galbot)、Hillbot、IntBot、NeuraRobotics、SkildAI、VirtualIncision、Uber、Waabi、小鹏汽车等的全球物理AI领先企业,涉及机器人、自动驾驶、共享出行等领域。

Cosmos模型将以开放模型许可证的方式提供。首批模型有8款,参数量从40亿到140亿不等。

NVIDIAAPI目录中可预览首批模型,NVIDIANGC目录或HuggingFace也支持下载整个系列的模型和微调框架。很快这些模型将以经过全面优化的NVIDIANIM微服务形式提供。

开发者可以使用NVIDIANeMoCurator加速视频处理,并使用NVIDIANeMo来定制自己的世界模型,然后可通过NVIDIADGXCloud快速、简单地部署这些模型,还可以获得NVIDIAAIEnterprise软件平台提供的企业支持。

一、机器人ChatGPT时刻将近,世界基础模型助攻物理AI普及

“机器人技术的ChatGPT时刻即将到来。与大语言模型一样,世界基础模型是推动机器人和自动驾驶汽车开发的基础。”NVIDIA创始人兼CEO黄仁勋谈道,并非所有开发者都拥有自主训练模型所需的专业知识和资源,英伟达创建Cosmos的目的是普及物理AI,让每一位开发者都能接触到通用机器人技术。

借助NVIDIACosmos的开放模型套件,开发者可以根据目标应用的需要,使用数据集定制自动驾驶汽车旅行视频、机器人在仓库中的移动轨迹等世界基础模型。

Cosmos世界基础模型专为物理AI的研发而生,是一套开放扩散和自回归Transformer模型,为实现基于物理学的交互、物体恒存性以及生成高质量的仿真工业环境(如仓库、工厂)和驾驶环境(包括各种路况)而构建。

这些模型接受了来自2000万小时真实世界人类交互、环境、工业、机器人、自动驾驶数据的训练,可根据文本、图像和视频等输入组合以及机器人传感器或运动数据生成基于物理学的视频。

黄仁勋在CES主题演讲期间展示了一些开发者使用Cosmos模型的用例:

1)视频搜索和理解:使开发者能从视频数据中轻松找到特定的训练场景,例如雪天路况或仓库拥堵等。

2)基于物理学的逼真合成数据生成:使用Cosmos模型从NVIDIAOmniverse平台上开发的可控3D场景中生成逼真视频。

3)物理AI模型开发和评估:在基础模型上构建自定义模型,使用Cosmos进行强化学习以改进模型,或者测试模型在特定仿真场景中的表现。

4)预测与“多元宇宙”模拟:使用Cosmos和Omniverse生成AI模型所有未来可能实现的结果,以便帮助其选择最佳和最准确的路径。

二、提供先进开发工具,保护数据隐私安全

构建物理AI模型需要数PB(petabytes)的视频数据以及数万小时的计算,来处理、整理和标记这些数据。

为了帮助节省在数据整理、训练和模型定制方面的巨大成本,Cosmos提供了以下功能:

关于世界模型的隐私和数据保护问题,NVIDIA也做了一系列设计。Cosmos根据NVIDIA的可信AI原则开发而成。该原则将优先考虑隐私、安全、保障、透明和减少不必要的偏见。

Cosmos开放平台加入了专为减少有害文字和图像而设计的护栏,并提供了一个增强文字提示准确性的工具。使用NVIDIAAPI目录上的Cosmos自回归模型和扩散模型生成的视频会带有隐形水印,可识别AI生成的内容,这有助于减少错误信息和错误归属的可能性。NVIDIA还将进一步改进其应用的护栏和水印解决方案。

三、多家物理AI企业已采用,加速人形机器人、自动驾驶开发

许多物理AI行业的领先者已开始使用Cosmos技术。

例如AI人形机器人公司1X使用CosmosTokenizer推出了1XWorldModelChallenge数据集。Hillbot和SkildAI正在使用Cosmos加速其通用机器人的开发。小鹏汽车也将使用Cosmos加快其人形机器人的开发。

一些交通运输领域的领先企业也在使用Cosmos构建适用于自动驾驶汽车的物理AI。

Waabi是一家从自动驾驶汽车开始致力于开发物理世界生成式AI的公司,正在评估Cosmos在自动驾驶汽车软件开发和仿真中数据整理的应用。自动驾驶AI基础模型公司Wayve也正在评估使用Cosmos搜索用于提高安全性和验证的极端驾驶场景。

自动驾驶汽车工具链提供商Foretellix将使用Cosmos与NVIDIAOmniverseSensorRTXAPI大规模评估和生成高保真测试场景与训练数据。

全球共享出行巨头Uber正与NVIDIA合作共同加速自动驾驶汽车的发展。Uber丰富的驾驶数据集在与Cosmos平台和NVIDIADGXCloud的功能结合后,能帮助自动驾驶汽车合作伙伴更加高效地构建更强大的AI模型。

Uber首席执行官DaraKhosrowshahi提到生成式AI将驱动未来的移动出行,这需要丰富的数据和强大的算力。他相信在NVIDIA的助力下,Uber团队能够帮助行业更快开发出安全、可扩展的自动驾驶解决方案。

结语:打开AI理解物理世界之门

机器人、自动驾驶等物理AI的开发离不开大量真实数据。NVIDIACosmos平台的出现恰逢其时,通过能够生成高仿真虚拟世界状态的世界基础模型,为一众开发者们提供了教AI理解物理世界的关键工具。

这是也是NVIDIA未来AI雄心的展现。真实世界充满各种物理原理,要让AI具备更强的通用智能、能够模拟出与现实世界如出一辙的自然运作,理解物理世界是不可避免的下一个重点发展方向。而NVIDIA打造的Cosmos、Omniverse平台组合,将使得生成逼真合成数据更加轻而易举,从而加速物理AI的构建与应用。

THE END
1.模拟汽车改装app软件三大汽车模拟改装软件不容错过此前,Tik Tok上有一个非常流行的软件,就是模拟汽车改装的app软件,也叫汽车。它可以让用户体验模拟汽车改装的过程,是一款非常好的软件。接下来给大家分享三种汽车仿真改装软件,包括CAR。对汽车改装很感兴趣,不妨看看这个,玩玩这类APP。 汽车(3D汽车模型)应用程序 https://m.pcauto.com.cn/x/3376/33769249.html
2.汽车仿真软件有哪些APP推荐汽车仿真软件有哪些下载豌豆荚汽车仿真软件有哪些榜单为您提供最新汽车仿真软件有哪些大全,这里不仅有汽车仿真软件有哪些安卓版本APP、历史版本应用下载资源,还有类似汽车仿真软件有哪些的应用推荐,欢迎大家前来豌豆荚下载。https://www.wandoujia.com/bangdan/395895/
3.汽车虚拟仿真教学软件手机学车模拟开车软件推荐驾考家园、驾考模拟3d、全国驾考3d考场模拟练车等新手模拟开车软件都非常好用,这里为广大用户带来可以练习开车的模拟倒车入库真实软件可以在手机上的进行开车,不仅可以练习科目一以及科目三的众多考试项目,随时都可以在手机上练习,同时也可以开车下手提升自己开车技术,轻松就可以科目考试,锻炼自己的开车技术,有需要的话就http://m.2265.com/k/mnkcrj
4.3d模拟改装车软件真实汽车改装模拟软件推荐在探索汽车改装的世界时,许多人都发现,仅仅依靠想象是远远不够的。为此,现在有许多人选择利用3D模拟改装软件来预览改装效果。接下来,我将为大家推荐三款备受好评的3D仿真改装车软件。 首先,我们要提到的是Tik Tok上备受欢迎的3D汽车技术设计游戏——游戏3dCAR。这款游戏不仅具有高度的娱乐性,同时也是一款实用的汽车https://m.yoojia.com/article/9320934675469275132.html?from_src=biji_tab
5.汽车仿真教学软件大全汽车仿真教学推荐下载PP助手为您提供汽车仿真教学软件有哪些大全推荐,在这里我们为您提供汽车仿真教学软件有哪些软件下载资源,汽车仿真教学软件有哪些安卓版本、官方版本&老版本下载地址合集,还可查阅相关汽车仿真教学软件有哪些攻略大全,欢迎到PP助手下载。https://wap.pp.cn/topic/485238/
6.智能网联汽车测试装调虚拟仿真教学软件首页智能网联汽车测试装调虚拟仿真教学软件 我要提问 更新时间:2024-11-29 智能网联汽车虚拟仿真实训教学系统理论教学模块通过二维视频、三维动画的形式展现智能传感器、计算平台、智能座舱系统、底盘线控系统的知识内容,实训教学模块使用交互的形式对各领域的应用进行实训操作模拟练习。 https://www.ruanfujia.com/software/10398403/
7.PanoSimPanoTwin-E是一款专为汽车专业教育而设计的智能仿真教学产品。不仅包含微缩沙盘、定位捕捉、编程小车等硬件设备,同时还内嵌了PanoSim 智能网联汽车一体化仿真平台、PanoCar 高精度汽车动力学仿真模型等软件系统。其融合 实时渲染、数字孪生、智能驾驶仿真、汽车动力学等多项技术,结合三维画面与实操展示,为多功能驾驶模拟、https://www.panosim.com/
8.模拟驾驶软件下载模拟驾驶软件合集模拟驾驶下载安装最新版《模拟驾驶》又称汽车驾驶仿真,或汽车虚拟驾驶。模拟驾驶让体验者在一个虚拟的驾驶环境中,使其感受接近真实效果的视觉、听觉和体感的汽车驾驶体验。华军软件园为您提供模拟驾驶软件下载、模拟驾驶下载安装最新版、模拟驾驶软件电脑版等内容,感兴趣的朋友快来下载体验吧! http://www.onlinedown.net/zt/1424/
9.FlexsimAutomodEmulate3DVisuaComponent仿真软件对比2.传统仿真软件,在汽车生产线、零件生产线等场景具备较强数据分析能力。 3.模型抽象程度高,具有图表模块,支持数据报表。 PlantSimulations:目前不支持虚拟现实和混合现实。 PDPS:支持VR效果不俗。 1.对于复杂逻辑,可以允许用户嵌入特殊逻辑,对方案进行数据分析和对比 2.要求较高软件编程能力 3.软件更新频率较低,最近https://blog.csdn.net/qq_43342303/article/details/144371715
10.盘点自动驾驶车辆仿真模拟软件仿真与模拟PanoSim是一款集复杂车辆动力学模型、汽车三维行驶环境模型、汽车行驶交通模型、车载环境传感模型(像机和雷达)、无线通信模型、GPS和数字地图模型、Matlab/Simulink仿真环境自动生成、图形与动画后处理工具等于一体的大型模拟仿真软件平台。它基于物理建模和精确与高效兼顾的数值仿真原则,利用先进的虚拟现实技术逼真地模拟汽车https://www.auto-testing.net/news/show-96978.html
11.虚拟驾驶系统汽车仿真驾驶汽车模拟驾驶软件可定制价格¥2.80万 六自由度虚拟驾驶仿真体验VR模拟驾驶 本页信息为武汉百变互动科技合伙企业(有限合伙)为您提供的"虚拟驾驶系统汽车仿真驾驶汽车模拟驾驶软件可定制"产品信息,如您想了解更多关于"虚拟驾驶系统汽车仿真驾驶汽车模拟驾驶软件可定制"价格、型号、厂家请联系厂家,或给厂家留言。获取https://www.china.cn/ruanjiankaifa/4689261902.html