结论先行:操作类数据集的质量瓶颈通常不在"数量",而在三件事——时间同步精度、真值定义一致性、失败样本的保留策略。本文给出可直接落地的规格建议。
与图像分类不同,具身智能数据是多模态时序数据:视频、关节状态、力反馈、深度、语音指令必须在统一时间轴上对齐。任何一路信号的时钟漂移都会在训练时被放大成策略抖动。
我们在 2026 年上半年交付的项目中,约 62% 的返工由以下三类问题引发:
| 维度 | 建议规格 | 说明 |
|---|---|---|
| 视频帧率 | 30–60 fps | 精细操作(插拔、拧螺丝)建议 60 fps |
| 同步方式 | 硬件触发 / 统一时钟源 | 软件打时间戳的漂移通常在 10–80 ms |
| 相机布局 | 腕部 + 外部第三视角 | 腕部视角对操作精度贡献最大 |
| 关节状态 | 与视频同频或更高 | 含位置、速度与(如有)力矩 |
| 指令标注 | 任务级 + 阶段级 | 阶段级切分对分层策略训练价值高 |
| 失败样本 | 保留并标注失败原因 | 建议失败样本占比 10%–25% |
操作类数据的"对错"往往是主观的。我们采用的做法是:先写判定树,再开工。
LeRobot 适合快速起步与社区工具链复用;HDF5 适合自研框架与大规模吞吐;RLDS 适合已有 TFDS 流水线的团队。详细对比见《LeRobot / HDF5 / RLDS 怎么选》。