具身智能研究工作台阅读原文 · 追踪方法 · 连接实践
02 / 开源与公开项目开源与公开代码项目
官方仓库、训练入口、机器人支持与许可证,放在同一个视野。
73个开发项目
原始来源可追溯 · 许可和可复现性分别核对每 60 分钟检索
找到 73 个项目 · 许可分别标注
第 1 / 7 页训练框架 / 数据工具 / 实机接口有开源代码
LeRobot 机器人学习工具箱
LeRobot
PyTorch 端到端机器人学习工具箱,覆盖遥操作、LeRobotDataset、训练、评测和部署。官方 G1 指南已包含仿真、数据采集、π₀.₅ 训练和 RTC 推理。
ACT 行为克隆Diffusion PolicySmolVLA / π 系列微调人类在环强化学习
机器人 / 平台机械臂、双臂、Unitree G1 23/29 DoF
许可证代码 Apache-2.0;预训练模型、数据集及第三方组件分别核对各自条款。
训练入口与注意事项
从这里开始先用已有小数据集跑 ACT 训练与离线评估;G1 用户先完成官方 MuJoCo 遥操作,再采集单一、安全、可重复的操作任务。
硬件条件官方硬件指南的示例条件为 batch size 8、AdamW:ACT 等轻量策略约 2–6 GB 峰值显存,Diffusion 约 8–14 GB,SmolVLA 约 10–16 GB,大型 VLA 约 24–40 GB;这些是粗略量级,并非最低配置或性能保证。
注意事项G1 示例依赖具体 SDK、控制器与关节配置;整机运动由 Holosoma/GR00T 等控制器配合,不能把任意机械臂策略直接映射成全身电机命令。实机前先做仿真、延迟与急停检查。
官方仓库与策略目录
官方 G1 指南
官方硬件估算
GPU 仿真 / 强化学习 / 模仿学习框架有开源代码NVIDIA Isaac Lab
面向机器人学习的仿真框架,适合大批量环境、传感器和接触动力学实验,是 Unitree RL Lab 的训练底座。
并行强化学习模仿学习运动规划域随机化与 sim-to-real
机器人 / 平台四足、人形、机械臂、传感器仿真
许可证主框架 BSD-3-Clause;isaaclab_mimic 为 Apache-2.0。Isaac Sim、cuRobo、依赖和资产仍存在独立或专有条款。
训练入口与注意事项
从这里开始先完成官方 quickstart 和一个简单 RL 环境,再导入或选用机器人任务;G1/Go2 用户直接沿 Unitree RL Lab 的依赖组合走。
硬件条件本次核验的官方安装页列出 Ubuntu 22.04 或 Windows 11、RAM 32 GB+、GPU VRAM 16 GB+;渲染可能需要更多显存。须按选定 Isaac Sim/Lab 版本核查兼容 GPU、驱动和 Python。
注意事项核验时 GitHub main 标为开发中并警告破坏性变更,而安装页版本口径不同;请锁定与机器人项目匹配的 release/commit,不混用最新 main 和旧教程。列出的显存不是所有训练任务的容量保证。
官方仓库与许可范围
系统要求与安装
物理仿真 / GPU 批量训练环境有开源代码
MuJoCo / MJX / Playground 仿真生态
MuJoCo / MJX / MuJoCo Playground
MuJoCo 提供物理引擎,MJX 提供加速接口,Playground 提供可直接训练的机器人环境与教程。官方包含 G1JoystickFlatTerrain 示例,适合学习接触动力学和运动控制。
PPO 强化学习批量物理仿真状态与视觉策略sim-to-real
机器人 / 平台四足、人形、灵巧手、机械臂、G1
许可证MuJoCo 与 Playground 主体 Apache-2.0;Playground 指明粗糙地形纹理 CC0,外部机器人资产仍需查看各自许可。
训练入口与注意事项
从这里开始先跑 Playground 的 CartpoleBalance 和 locomotion 教程,再训练 G1 平地任务;把 CPU MuJoCo 回放作为独立检查环节。
硬件条件MJX-JAX 官方列出 NVIDIA/AMD GPU、Apple Silicon 和 TPU 后端;MJX-Warp 面向 NVIDIA GPU。Playground 仓库快速安装示例使用 CUDA JAX;未找到适用于全部环境的统一最低显存数值。
注意事项MJX-JAX 与 MJX-Warp 的功能、自动微分和性能不同;官方明确 MJX-Warp 不支持自动微分。仿真中的成功不能代替目标机器人动力学与实机验证。
官方项目页
Playground 代码与训练入口
MuJoCo 代码
MJX 后端与局限
Unitree 官方强化学习与部署有开源代码Unitree RL Lab
官方 README 明确支持 Go2、H1、G1-29dof,并给出训练、回放、MuJoCo 测试和物理机器人部署链路,是这些机型的优先入门入口。
Isaac Lab / RSL-RL 训练速度跟踪MuJoCo sim2simsim2real
机器人 / 平台Go2、H1、G1-29dof
许可证Apache-2.0;机器人资产、SDK 和训练底座分别核对。
训练入口与注意事项
从这里开始锁定版本 → 列出任务 → 运行对应机型训练和 play → 在 unitree_mujoco 中测试同一策略 → 有保护和急停条件下进行实机试验。
硬件条件仓库要求先安装 Isaac Lab、Unitree 机器人资产和 SDK2;自身 README 未给统一 GPU/显存下限,沿用所选 Isaac Lab/Sim 组合的要求。
注意事项官方顺序为先 sim2sim 再 sim2real。部署须匹配机型、自由度和控制模式;不要跳过官方机载控制程序切换要求,也不要把 G1-29dof 配置用于不同关节版本。
官方支持机型、训练和部署流程
Unitree 官方 MuJoCo 强化学习与动作模仿有开源代码Unitree RL Mjlab 宇树 MuJoCo 训练链路
Unitree RL Mjlab
基于 mjlab 与 MuJoCo 的官方实现,提供 Train → Play → Sim2Real 工作流,并公开 G1 动作模仿入口。适合希望采用 MuJoCo 后端的 G1/Go2 用户。
PPO 强化学习速度跟踪G1 参考动作跟踪sim2real
机器人 / 平台Go2、G1、G1-23DoF、H1_2、R1、A2、As2、H2
许可证Apache-2.0;mjlab、模型和动作数据另查对应许可。
训练入口与注意事项
从这里开始从 Unitree-Go2-Flat 或匹配版本的 Unitree-G1-Flat 开始;回放稳定后再学习 G1 motion tracking,不先挑战高动态动作。
硬件条件官方 setup 建议 Ubuntu 22.04、NVIDIA GPU、550 或以上驱动;没有列出统一最低显存。
注意事项README 的支持机型范围不等于每个任务都有完整同等功能;需以实际任务清单、自由度和部署配置为准。参考动作必须适配目标关节结构和安全运动范围。
官方仓库与任务列表
官方安装要求
模仿学习 / 离线强化学习基线有开源代码
robomimic 机器人示范学习框架
robomimic
成熟的机器人示范学习框架,适合系统比较数据质量、观测设计和策略结构,先把基础模仿学习实验做扎实。
BC / BC-RNN / BC-TransformerDiffusion PolicyBCQ / CQL / IQL / TD3-BC
机器人 / 平台机械臂操作、离线示范数据
许可证代码 MIT;下载的示范数据与模拟资产须另查许可。
训练入口与注意事项
从这里开始先复现单个低维状态任务的 BC,再加入图像观测或 BC-RNN/Diffusion Policy,以独立测试集比较成功率。
硬件条件官方提供免本地安装的 Colab quickstart,以及 CPU/GPU Docker 路径;未找到适用于全部算法与观测配置的统一最低显存。
注意事项研究基线框架不自动提供 G1/Go2 全身控制与安全部署;自己的数据需要匹配观测、动作和环境接口。
官方主页
官方仓库
已实现算法
视觉-语言-动作模型 / 微调配方有开源代码OpenVLA / OpenVLA-OFT
OpenVLA 的官方仓库建议尝试 OFT 微调方案。适合研究语言条件操作和预训练表征迁移;先在 LIBERO 或明确支持的机械臂上复现。
预训练 VLALoRA 微调OFT 动作分块、并行解码与连续动作回归
机器人 / 平台机械臂、ALOHA、LIBERO
许可证OpenVLA 代码 MIT;预训练权重继承 Llama-2 Community License 等底座限制。OFT 与所用权重分别复核。
训练入口与注意事项
从这里开始先做预训练模型离线推理和 LIBERO 评测,再用目标机器人数据 LoRA/OFT 微调;同时保留 ACT 或 Diffusion 基线。
硬件条件原始 OpenVLA 官方 LoRA 说明:缩小 batch 后约需至少 27 GB 显存。OFT 官方示例中,LIBERO 单图、7 维动作、chunk 8、batch 1、bfloat16 训练需 25.6 GB,推理 15.9 GB;这些数字不能套用到所有配置。
注意事项不要把代码 MIT 等同于权重无商业限制;动作维度和归一化必须匹配训练数据。未核验为 G1/Go2 即插即用部署。
OpenVLA 官方代码、LoRA 要求与许可提醒
OFT 方法与精确配置显存表
作者 OFT 仓库
通用机器人策略 / 扩散模型有开源代码
Octo 通用机器人策略
Octo
在混合机器人轨迹上训练的通用策略;提供推理、微调、真实 WidowX 评估和 Open X 数据加载示例,适合研究跨形态迁移。
Transformer 扩散策略语言或目标图像条件目标域微调
机器人 / 平台多种机械臂、新观测/动作空间适配
许可证代码 MIT;训练数据、底座与检查点条款单独核对。
训练入口与注意事项
从这里开始先运行 debug 数据集微调与 Octo inference 示例,再用少量目标域数据验证新的 observation/action schema。
硬件条件官方仓库提供 GPU 与 TPU 安装路径,但未给通用最低显存。其从头预训练复现使用约 1.2 TB 预处理数据和 TPUv4-128;这不是加载或微调检查点的要求。
注意事项依赖版本较固定;通用预训练不保证目标机器人零样本成功。面向机械臂的动作空间不能直接作为四足或人形底层控制。
官方项目页
官方代码、硬件路径与预训练说明
视觉-语言-动作模型 / 微调和策略服务有开源代码openpi(π₀ / π₀-FAST / π₀.₅)
Physical Intelligence 官方代码提供三类 π 模型、基础检查点、自定义 LeRobot 格式数据微调,以及独立于机器人进程的策略服务。
flow matching VLAFAST 动作 token 自回归LoRA / 全量微调远程策略推理
机器人 / 平台ALOHA、DROID、LIBERO、自定义机器人数据
许可证代码 Apache-2.0;仓库另有 LICENSE_GEMMA.txt。不能仅凭代码许可确认所有权重的商业使用条件,应核对具体检查点和底座条款。
训练入口与注意事项
从这里开始先用无机器人推理脚本与 LIBERO 示例跑通;再转为自己的 LeRobot 数据、计算归一化统计并微调,最后接策略服务器。
硬件条件官方按单 NVIDIA GPU 估算:推理 >8 GB、LoRA 微调 >22.5 GB、全量微调 >70 GB;测试系统为 Ubuntu 22.04。多 GPU 可分摊显存,当前训练脚本说明不支持多节点。
注意事项作者明确不保证适配任意机器人成功。新机型要修改输入输出映射与归一化;远程推理延迟、断连和安全停车需要系统级处理。
官方仓库、硬件表和微调步骤
代码许可
Gemma 条款
跨机器人数据集合 / RLDS 数据入口有开源代码
Open X-Embodiment 跨机器人数据集
Open X-Embodiment(OXE)
统一多来源机器人数据的常用入口;官方提供数据目录、元数据表和 Colab 可视化/批次构建示例,常用于 Octo、OpenVLA 等训练流程。
示范数据预训练混合数据微调RLDS episode 数据加载
机器人 / 平台多机器人操作数据、跨形态预训练
许可证仓库软件 Apache-2.0,仓库其他材料声明 CC BY 4.0;对聚合数据仍应逐一查看原始数据集的许可、引用和再分发要求。
训练入口与注意事项
从这里开始先从官方 Colab 检查少量 episode 的相机、动作与语言字段,再选与目标机械臂相关的数据混合。
硬件条件数据读取和可视化不要求购买实体机器人;官方未给统一 GPU 下限。数据规模取决于选用的子集,先按需取样,不默认全量下载。
注意事项统一存储格式不意味着动作语义一致;坐标系、单位、绝对/增量/速度控制及夹爪编码必须按子数据集检查。
官方项目页
官方代码、目录与许可说明
真实场景机器人数据集 / 策略训练参考有开源代码DROID
包含约 76k 条轨迹、350 小时交互的真实场景操作数据,提供相机、语言、状态和动作信息,以及可视化和训练代码。
遥操作示范Diffusion Policy与目标域示范 co-training
机器人 / 平台Franka Panda、机械臂操作、真实场景泛化
许可证论文明确数据集 CC BY 4.0;droid_policy_learning 代码 MIT。其他硬件控制组件分别核对。
训练入口与注意事项
从这里开始先下载 2 GB 调试子集做数据检查,跑通 dataloader 后,再选择目标域数据与 DROID 联合训练。
硬件条件官方 RLDS 全量约 1.7 TB,100 条轨迹调试子集约 2 GB。只使用数据不需要 Franka;若复现采集平台,官方使用 Panda、双外置 Zed 2、腕部 Zed Mini 和 Quest 2 遥操作。
注意事项这是机械臂操作数据,不是 G1/Go2 步态数据;用到新形态时需要目标域示范和动作适配。数据处理需考虑标定与语言注释版本。
官方项目页
官方训练仓库与数据大小
论文中的数据许可与采集平台
仿真基准 / 示范数据 / 迁移评测有开源代码
LIBERO 终身机器人学习基准
LIBERO
官方提供 130 个操作任务,覆盖 Spatial、Object、Goal、100 四套任务及人类遥操作示范;适合低成本比较策略与微调配方。
行为克隆基线多任务与顺序微调知识迁移评测
机器人 / 平台仿真机械臂、语言条件操作、多任务/终身学习
许可证代码 MIT;数据集 CC BY 4.0。
训练入口与注意事项
从这里开始先选择一个小任务套件并复现一个策略;对自己的修改同时记录成功率、失败类型和推理延迟。
硬件条件可在仿真中评测,无需实体机器人;显存取决于所选策略。官方仓库未给全部基线通用的最低 GPU 显存。
注意事项LIBERO 成功率是特定仿真任务结果,不能直接推断真实 G1/Go2 的泛化或安全。比较结果时固定任务套件、数据版本、种子和评测协议。
作者项目页
官方代码、任务与许可证
项目 Logo 来自对应官方仓库或项目页,标识权利归各项目所有;收录不表示隶属或背书。
分类与翻译标准来源、推断、未知,
分别标清楚。
中文标题为译名;“中文摘要解读”是对方法、证据和局限的中文整理,不是论文逐字全文翻译。英文原文可从每篇论文的来源链接查看。全文翻译需有相应授权或许可。基础与经典标签是编辑阅读分类,不代表论文等级。
实物、仅仿真和两者都有指已核对的评估证据;仅仿真训练后实机评估会明确备注。模型内滚动预测也会单独说明。真实传感器数据离线评测另作标签,不等同于实机闭环。机器人型号不从图片或相近项目推测。
“有开源代码”不等于完整训练已复现。待发布、占位仓库、许可未核实分别标注;未查到代码不会写成确定没有。本文库未执行模型训练或机器人实验。
来源与实验说明可追溯 经典、基础、近期分层阅读 归档、去重、运行日志落盘 未确认的信息保留未知