小米机器人-1

打破数据壁垒。通过无实例预训练来扩展机器人策略模型。语言和视觉方面的基础模型通过经验尺度法则不断推动前沿：能力跟踪数据、参数和计算。机器人技术已经错过了。大规模、高质量的数据很难获得，而这种数据的稀缺性最重要地限制了政策模型的扩展程度。机器人在真正大规模的训练下能做什么在很大程度上仍然是一个悬而未决的问题。我们朝着回答这个问题迈出一步。小米机器人1将大规模无实体（UMI）预训练与训练后阶段的少量真实机器人数据相结合。我们研究模型在扩展时的行为方式。数据 小米-Robotics-1能做的一切都从数据开始。在预训练中，我们使用了 100,000 小时的无实体 (UMI) 轨迹，涵盖 1,700 多个场景（家庭、商业场所、工业场所和室外空间），涵盖了各种任务。我们开发了一个可扩展的自动标记管道，首先将轨迹划分为固定长度的段，然后用场景状态转换的语言描述来注释每个段。对于后期训练，我们利用包含内部机器人数据、过滤后的开源机器人数据和一组高质量 UMI 数据的跨实施例数据集。对于内部数据，我们在真实家庭中收集了超过 7,200 个小时的真实机器人数据，涵盖了整理沙发、整理鞋柜、收拾厨具等任务。 UMI 数据是用时间段和指令提示手动注释的，这与预训练数据中使用的自动标记的状态转换描述不同。方法 遵循LLM的训练范式，Xiaomi-Robotics-1的训练分为两个阶段：预训练和后训练。第一阶段从大规模 UMI 数据中学习动作生成的一般表示，而后训练阶段使模型与真实的机器人实施例和指令跟踪功能保持一致。预训练预训练涉及广度：将模型尽可能多地暴露在现实世界中。我们使用上述的无实施例的 UMI 数据，它涵盖了广泛的环境和任务。在这种规模下，手动标记是不可行的。因此，我们构建了一个由强大的视觉语言模型提供支持的自动注释管道。长视频被分割成固定长度的剪辑，VLM 描述每个剪辑中夹具和交互对象的状态转换。结果是一个大规模的现实世界操作轨迹语料库，每个轨迹都用精确的语言描述进行了注释。这些允许模型学习动作生成，从而驱动场景向语言描述的状态转换。一个令人鼓舞的发现是，预训练显示出干净的扩展行为：随着数据和模型大小的增长，验证操作误差稳步下降。训练后训练旨在将从预训练中获得的强大动作生成能力与真实的机器人实施例和沿两个轴遵循的自然语言指令结合起来。实施例对齐使用高质量的跨实施例真实机器人数据将一般动作生成能力映射到实际机器人上。指令对齐将模型从“根据场景状态转换的描述生成动作”转变为“理解自然语言指令并直接执行它”。经过后期训练后，Xiaomi-Robotics-1 可以开箱即用地在现实世界中执行各种移动操作任务。我们在未见过的环境中使用未见过的对象实例评估训练后的模型，以了解预训练的缩放行为是否可以在训练后转移到真实的机器人性能。答案是肯定的。随着我们增加预训练数据量和模型大小，真实机器人的成功率会稳定且可预测地上升。也就是说，更强的预训练模型可以产生更好的真实机器人性能。缩放增益没有显示出饱和的迹象：随着模型在预训练期间消耗更多数据或扩大规模，训练后的真实机器人成功率不断提高。应用经过后期训练后，Xiaomi-Robotics-1可以作为下游应用的强大机器人基础模型。我们将Xiaomi-Robotics-1用于两个互补的下游设置。对新任务的有效适应使模型从每个任务几个小时的数据中专门适应全新的、高度复杂的真实机器人任务。模拟基准测试其在强调泛化的主流套件中的功能。高效适应新任务Xiaomi-Robotics-1可以以很高的数据效率学习新任务。该模型只需对每个任务进行几个小时的真实机器人演示，即可完成电话包装、打印机重新填充、衣物装载和包装箱等任务。每个任务的演示平均时间不到 10 小时，总体成功率已达到 75%