AIGC宇宙 AIGC宇宙

宇树机器人强化学习代码全面开源,还有训练到仿真和实操手把手教学

作者:量子位
2024-12-17 01:00
9.9万元起,还能够大规模量产的国产人形机器人,表现得实在是太6了:而且还走上了开源路线,就在刚刚,宇树机器人开源的强化学习代码又更新了! 更新之后不再是只能训练——不仅能够仿真运行,还能部署到实体机器,整个过程所有代码全部开放。 一开始,宇树开源的是英伟达Issac Gym平台上的训练代码,这次新增了对MuJoCo模拟仿真的支持。

9.9万元起,还能够大规模量产的国产人形机器人,表现得实在是太6了:

图片

而且还走上了开源路线,就在刚刚,宇树机器人开源的强化学习代码又更新了!

更新之后不再是只能训练——不仅能够仿真运行,还能部署到实体机器,整个过程所有代码全部开放

图片

一开始,宇树开源的是英伟达Issac Gym平台上的训练代码,这次新增了对MuJoCo模拟仿真的支持。

图片

而且还能迁移到实体机器人上运行,目前支持宇树的H1、H1-2和G1三款机器人。

图片

这下从训练到模拟再到真机运行,整个RL套件的开源体系终于完整了。

看到这个消息,有网友激动地表示,训练机器人灵魂的方法终于公开了!

图片

全过程代码公开,还有详细教程

宇树给这个项目取名叫RL GYM,可能和一开始专门提供基于Issac Gym的训练代码有关。

现在RL GYM又支持了MuJoCo,可以在预训练的基础上进行仿真模拟了。

训练阶段的Issac Gym需要CUDA,也就是需要N卡,仿真阶段的MuJoCo则支持各种GPU,甚至CPU和TPU也能运行。

从环境的安装配置,到训练和模拟,以及最后的真机迁移,不仅有代码,还有非常详细的手把手教程。

图片

以最新款的G1为例,在Issac Gym里训练完之后的效果是这样的:

图片

放到MuJoCo里模拟,就有了开头看到在这段DEMO:

图片

最后迁移到G1真机,就能看到训练的效果了(并且真机迁移的部分还有中文教程):

图片

H1和H1-2也与此类似,另外通过RL GYM还可以在Issac Gym里训练机器狗Go2:

图片

还有更多开源项目

在宇树的整个开源体系当中,RL GYM只是其中一环,在宇树所有的GitHub仓库中星标数排第三。

图片

排第一的是针对开源机器人系统R(obot)OS推出的模拟包,包含了宇树系列机器人的质量、惯量、力矩等参数。

图片

星标数第二的则是使用苹果Vision Pro对G1进行遥操作控制的仓库,可以用于数据采集。

采集到的数据是JSON形式,而训练通过LeRobot实现,因此宇树还提供了将JSON格式数据转为LeRobot所需格式的教程。

其中包含遥操作控制的代码教程,以及硬件配置图、物料清单和安装说明:

图片

除了GitHub上发布的这些工具,宇树还在HuggingFace上公开了训练数据集,与数据采集工具同期发布。

数据集包含五种操作,使用配备有三指灵巧手的宇树G1人形机器人收集,每张图分辨率为640x480,每个手臂和灵巧手的状态和动作维度为7。

图片

比如,利用这套数据集可以让机器人学习拧瓶盖倒水:

图片

将三色积木叠放到一起:

图片

此外还包括将摄像头放入相应包装盒、收集物品并存储、双臂抓取红色木块并将其放入一个黑色长方形容器中这些操作。

图片

最后,宇树开源的也不只是和机器人相关的项目。

上个月宇树发布了售价419美元的激光雷达, 在产品上线的同时就将其采用的Point-LIO算法进行了开源。

图片

项目仓库:https://github.com/unitreerobotics/unitree_rl_gym

相关标签:

相关资讯

明确了:文本数据中加点代码,训练出的大模型更强、更通用

代码知识原来这么重要。如今说起大语言模型(LLM),写代码能力恐怕是「君子六艺」必不可少的一项。在预训练数据集中包含代码,即使对于并非专门为代码设计的大模型来说,也已是必不可少的事。虽然从业者们普遍认为代码数据在通用 LLM 的性能中起着至关重要的作用,但分析代码对非代码任务的精确影响的工作却非常有限。在最近由 Cohere 等机构提交的一项工作中,研究者系统地研究了代码数据对通用大模型性能的影响。论文链接:「预训练中使用的代码数据对代码生成以外的各种下游任务有何影响」。作者对范围广泛的自然语言推理任务、世界知识任
8/22/2024 6:20:00 PM
机器之心

OpenAI 重启机器人团队,联合多方回归老赛道

感谢福布斯报道称,随着对人工智能机器人投资的升温,OpenAI 正式重启其先前放弃的机器人团队,OpenAI 随后确认了这一消息。OpenAI 成立初期,机器人技术就是其主攻方向之一,联合创始人沃伊切赫・扎伦巴领导的团队最初试图打造一个“通用机器人”。2019 年,十多位 OpenAI 研究人员联合发表了一篇论文,描述了他们如何训练神经网络使用单只机械手复原魔方,并声称这是朝着训练机器人系统执行各种日常任务迈出的基础性一步。但在 2020 年 10 月,OpenAI 放弃了这一努力,扎伦巴将此归咎于缺乏训练数据。过
5/31/2024 3:09:51 PM
沛霖(实习)

人形机器人将当上银行“大堂经理”,国内首个场景训练基地在上海浦东启用

据“上海金融官微”公众号,国内首个人形机器人银行大堂经理场景训练基地在建行上海浦东分行正式启用。银行大堂经理场景训练基地是业内首个商业银行场景应用训练基地,其首次采用开放式的创新训练模式,有助于加快提升人形机器人的能力,推动关键技术、重点产品和重点场景应用。据介绍,此次参训的机器人拥有高度仿生的躯干构型和拟人化的运动控制,结合视觉、听觉、语音等人工智能技术,科学家可以通过具身智能的推理和规划等对其进行训练。目前,该银行已对智能人形机器人开展银行大堂业务咨询、业务分流、智慧柜员机个性化操作指南、反欺诈宣传等面向客户的
7/11/2024 6:03:37 PM
清源
  • 1