智能AI
evening
Fable 5.2吃掉机器人?「手感」这块,还得靠具身原生基模来补全
摘要
编辑:陈陈、杜伟 又一次,通用大模型在机器人操作领域展现出了惊人的潜力。今天,Anthropic 最新旗舰 Fable 5.2 亮相了! 官方演示中,由该模型控制的机器人可以轻松地完成解魔方、拧瓶盖、画机器人等一系列操作任务。 另外,在公开的 RoboDojo 基准测试中,Fable 5.2 也取得了 64.9% 的成绩。Anthropic 称,这一表现不仅超过了使用相同测试框架的其他前沿模型,也...
https
LingBot
Touch
lingbot
touch
Fable
com
Robbyant
Anthropic
5000
2026-11-10
1 阅读
约10分钟阅读
机器之心
字号:
编辑:陈陈、杜伟 又一次,通用大模型在机器人操作领域展现出了惊人的潜力。今天,Anthropic 最新旗舰 Fable 5.2 亮相了! 官方演示中,由该模型控制的机器人可以轻松地完成解魔方、拧瓶盖、画机器人等一系列操作任务。 另外,在公开的 RoboDojo 基准测试中,Fable 5.2 也取得了 64.9% 的成绩。Anthropic 称,这一表现不仅超过了使用相同测试框架的其他前沿模型,也超过了大多数专门为机器人控制而开发的 AI 系统。 从两个多前的 GPT-6 Astra 到现在的 Claude Fable 5.2,它们秀出的花式操作能力,让行业看到了通用大模型驱动机器人的更多可能。 但演示中的成功和仿真测试中的高分,是否就意味着机器人已经掌握了真正通用的物理操作能力? 当机器人「伸出手」,面对一个需要精细操作的任务,考验才刚刚开始。 以拧瓶盖为例,机器人手指要准确找到抓握位置,施加合适的力度,并根据瓶盖转动、指尖打滑的程度及时调整动作。几毫米的位移、细微的受力变化,都决定了一次操作能否成功。 要完成这类精细操作,机器人需要视觉、空间和触觉等多种物理模态协同工作。对此,具身智能的一条重要技术路线是从机器人本体和真实物理交互出发,构建面向物理世界的具身原生基础模型。 在国内,蚂蚁灵波正沿着这一方向推进。 团队围绕机器人的物理感知、理解和操作需求,持续构建具身原生的模型体系。 今日发布的触觉基础模型 LingBot-Touch,便是这条路线在高精度灵巧操作领域的一次具体实践 。 过程中,团队收集近 5000 小时的真实触觉数据, 覆盖了磁触觉、压阻式和视触觉三种不同的传感技术,让模型学习不同传感器背后共同的接触规律。这些触觉表征还能够接入不同的机器人动作模型,在不同灵巧手和真实操作任务中复用。 项目主页:https://technology.robbyant.com/lingbot-touch 技术报告: https://github.com/Robbyant/lingbot-touch/tree/main/paper GitHub 地址: https://github.com/Robbyant/lingbot-touch Hugging Face: https://huggingface.co/collections/robbyant/lingbot-touch 魔搭社区: https://www.modelscope.cn/collections/Robbyant/LingBot-Touch 为此,LingBot-Touch 围绕异构触觉数据预训练、统一表征学习和下游动作模型接入,构建了一套完整的技术方案。 下面从几个关键环节展开。 5000 小时真实数据 让不同机器人的「手感」可以共享 触觉看似只是感知接触,真正要将它做成通用基础模型,却远比想象中复杂。 机器人执行不同操作时,对触觉的需求并不相同。指尖捏取一颗玻璃弹珠,需要精准捕捉细微的接触位置和力度变化;手掌托举较大物体,则需要掌握不同区域的受力分布。不同操作部位、不同任务,对传感器的感知精度、覆盖范围和体积都有不同要求。 目前,触觉传感器存在多种技术路线,LingBot-Touch 本次重点覆盖了三类:视触觉、磁触觉和压阻式触觉。 视触觉通过内部摄像头观察弹性表面的形变,可以捕捉接触位置和轮廓等细节;磁触觉通过软质磁性材料形变引起的磁场变化感知接触和受力;压阻式触觉则通过材料受压后的电阻变化,测量不同位置的压力分布。 三类传感器感知的都是手指与物体接触时产生的物理变化,但底层测量原理和信号表达方式截然不同。不同设备的感测单元数量、空间布局和采样频率也存在差异。 这给触觉基础模型带来了一个难题:如何让不同传感器采集的数据能够共同参与训练? 如果针对每一种传感器分别训练专用触觉模型,一款机器人积累的经验就很难直接迁移到另一款机器人上。即使动作模型已经具备较强的操作能力,也可能因为更换传感器,就需要重新适配触觉信号的处理方式。 团队要解决的是,不同硬件、不同任务积累的触觉经验,如何转化为可以复用的基础能力。 为此,团队设计了一套多分支编码、共享主干的架构,并采用 JEPA(Joint-Embedding Predictive Architecture)思路,针对触觉信号开发了 Tactile-JEPA 训练方法。 首先要解决的是不同传感器之间的空间对齐问题。 不同触觉传感器的 Taxel(触觉感知单元)数量、排列方式和空间分辨率都不相同。如果直接将这些数据输入同一个 Transformer,模型很难知道不同传感器上的某个感知单元究竟对应手指的哪个位置。 团队因此建立了一套统一的标准化指尖几何坐标系,将不同传感器的感知单元映射到共同的三维空间中。 在此基础上,每个触觉 Token 都带有五维地址(时间窗口索引 1 维、手指编号 1 维、三维空间坐标 3 维),由时间窗口索引、手指编号和三维空间坐标组成。这样,模型处理的就不再只是某个传感器上的第几个测点,还能知道触觉响应发生的时间、所属手指及对应的物理位置。 在编码方式上,LingBot-Touch 没有强行要求三种传感器采用相同的原始信号处理方式,而是分别为压阻式、磁触觉和视触觉设计轻量级 Tokenizer,将各自的原始信号转换为统一接口下的触觉 Token。 随后,这些 Token 进入共享的 Haptic Transformer(HaT),由同一套主干网络学习不同传感器信号背后的接触规律。 这种设计保留了不同传感器的测量特点,同时让它们能够共同参与模型训练。传感器之间的差异主要由各自的编码分支处理,更高层的触觉特征则由共享主干学习。 解决了数据如何对齐的问题,接下来还要回答:模型究竟应该怎样学习触觉? LingBot-Touch 采用 Tactile-JEPA,在潜在空间中进行特征预测。简单来说,模型首先遮挡部分触觉 Token,由 Context Encoder 处理剩余的可见信息;与此同时,Target Encoder 处理完整触觉序列,生成目标特征。随后,Predictor 根据可见信息,预测完整序列各个位置对应的潜在特征,并与目标编码器的输出进行对齐。 其中,Target Encoder 的参数通过 Context Encoder 的指数移动平均(EMA)更新,不直接参与梯度反向传播。模型同时对被遮挡位置和可见位置的预测结果进行监督。 这一设计与触觉数据本身的特点有关。 触觉数据具有很强的稀疏性,大部分时间,手指并没有与物体接触,传感器记录中存在大量接近零的背景信号。如果直接优化原始信号重建,模型可能把大量精力放在预测这些背景数据上。 潜在空间预测则让模型不必花费大量精力还原无接触背景信号,而是通过真实交互数据中的时空关联,学习与接触位置、受力大小及其动态变化相关的特征表示。 而为了训练这套模型,团队还构建了一个多源触觉数据集,累计采集 4,983 小时真实触觉数据,涵盖 464,431 个交互片段、约 13.3 亿帧 。 这些数据来自压阻式、磁式和视觉触觉传感器,数据覆盖抓握、旋转、滑动、擦拭、装配、双手协同,以及易碎、易变形物体的操作,包含两种来源: 一是佩
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱