跳转至

快速开始

本项目分为 仿真平台 与 模仿学习平台 两个子项目,均以容器方式运行。本页介绍代码获取、环境要求与全流程总览;具体操作步骤请进入对应机器人文档线。

代码获取

克隆仓库后,需先拉取 LFS 大文件(USD 模型、贴图等)并初始化子模块(lerobot)。

# (可选)配置代理:访问 GitHub 较慢时设置,端口按本地代理调整
git config --global http.proxy  http://127.0.0.1:7897
git config --global https.proxy http://127.0.0.1:7897
export GIT_LFS_PROXY="http://127.0.0.1:7897"   # LFS 走代理

# 1. 克隆仓库(先跳过 LFS 和子模块,加速克隆)
GIT_LFS_SKIP_SMUDGE=1 git clone https://github.com/LQX-Code-SH/Thinker-IL-LAB.git
cd Thinker-IL-LAB

# 2. 拉取 LFS 大文件
git lfs pull

# 3. 初始化并拉取子模块(lerobot)
git submodule update --init

LFS 大文件为 ubt_sim 仿真资源(*.usd、*.urdf、贴图等)。仅做真机数据转换 / 训练 / 部署时可跳过 LFS;lerobot 子模块必须初始化;仅仿真采集才需要 ubt_sim。

环境要求

依赖 要求 说明
操作系统 Linux(Ubuntu 22.04 推荐) 两个子项目均以容器方式运行
GPU NVIDIA GPU(3090+) Isaac Sim 渲染与模型训练/推理
Docker 已安装 NVIDIA Container Toolkit 容器内使用 GPU
Git LFS 已安装 USD 模型、贴图等大文件管理
磁盘空间 充足(建议 100GB+ 可用) LFS 大文件、数据集、checkpoint 占用较大

全流程一览

一句话流程:HDF5 采集数据 -> 转换为 LeRobot 数据集 -> 容器内训练 -> 离线评估 -> 部署(仿真/真机)。

仿真采集(ubt_sim)───┐
                    ├─► 数据转换 ─► 模型训练 ─► 离线评估 ─► 仿真部署验证 ─► 真机部署
真机采集(遥操作)─────┘         

 

我们提供两种方式帮您快速了解该项目,您可以选择先了解我们的平台功能(ubt_sim 仿真采集 / ubt_IL 模仿学习),也可以直接进入对应机型的端到端全流程(天工行者 / 天工行者 Dex / Walker S2 EDU 探索者 / Walker C1 EDU 共创者)在快速复现过程中了解我们的项目。

按平台选择

从平台维度进入,先了解平台通用架构、命令与使用流程:

平台 平台概览
仿真平台 仿真平台使用说明
模仿学习平台 模仿学习平台使用说明

按机型选择

从机型维度进入,按机型走完整文档线:

机型 机型概览 端到端全流程
天工行者 天工行者 概览 天工仿真全流程 / 天工真机全流程
天工行者 Dex 天工行者 Dex 概览 Dex 仿真全流程 / Dex 真机全流程
Walker S2 EDU 探索者 Walker S2 EDU 探索者 概览 Walker S2 EDU 探索者 仿真全流程 / Walker S2 EDU 探索者 真机全流程
Walker C1 EDU 共创者 Walker C1 EDU 共创者 概览 Walker C1 仿真全流程 / Walker C1 真机全流程

可选:下载测试数据与模型

可从 HuggingFace 下载测试数据集与训练好的 ACT 模型(数据集仓库 / 模型仓库),自行前往 HuggingFace 官网下载使用,或者使用项目自带 hf_manager.py 工具管理:

cd ubt_IL/scripts/convert/common
export HF_ENDPOINT=https://hf-mirror.com          # (可选)国内加速镜像

# 下载测试数据集
python hf_manager.py pull <数据集路径/模型路径>      # 仿真测试数据集
# 下载案例
python hf_manager.py pull qingxiangliu/tienkung_pick_up_merged       # 真机测试数据集
python hf_manager.py pull qingxiangliu/tienkung_pick_up_act          # 真机 ACT 测试策略

数据集列表

天工行者

仓库 体积 格式 说明
tienkung_sim_pick_place ★ 1.1 MB LeRobot 仿真抓取苹果
tienkung_pick_up_merged ★ 1.6 GB LeRobot 真机抓取合并数据集
tienkung_pick_up_the_apple_all 426.9 MB LeRobot 真机抓取苹果
tienkung_pick_up_the_bottle_all 481.0 MB LeRobot 真机抓取瓶子
tienkung_pick_up_the_red_bottle_all 685.2 MB LeRobot 真机抓取红色瓶子
tienkung_real_merged 379.3 MB LeRobot 真机抓取瓶子(国创)

Walker S2 EDU 探索者

仓库 体积 格式 说明
Walker_S2_sim_10_2RGB ★ 119.2 MB LeRobot 仿真抓取零件
Walker-s2-pick-part-sim 4.3 GB HDF5 仿真抓取零件
Walker_S2_real_10_2RGB 157.5 MB LeRobot 真机抓取多零件
Wlaker_Pick_part_real_10d_2RGB ★ 24.2 MB LeRobot 真机抓取零件
walker-s2-pick-part-real-hdf5 21.6 GB HDF5 真机抓取多零件
walker_pick_part_real_hdf5 9.7 GB HDF5 真机抓取零件
walker_pick_sort 11.5 GB HDF5 真机分拣零件

模型列表(ACT 策略)

仓库 体积 说明
tienkung_sim_pick_place_right13_act 591 MB 天工仿真 ACT 抓取测试策略
tienkung_pick_up_act 591 MB 天工真机 ACT 测试策略
Walker_S2_sim_10_2RGB_act 1.9 GB Walker S2 EDU 探索者 仿真 ACT 测试策略
walker_pick_part_real_10d_2RGB_act 1.7 GB Walker S2 EDU 探索者 真机 ACT 抓取测试策略

下载的数据集保存于 ubt_IL/dataset/,模型保存于 ubt_IL/model/。完整用法见 HF 数据/模型管理。