网易首页 > 网易号 > 正文 申请入驻

成功率反超GPT-6 Astra!港大团队发布Physical RSI,仅用1%成本

0
分享至


香港大学MMLAB提出了一个非常简洁且高效的自进化具身智能系统基线,“PhysicalRSI 1.0”,登顶RoboDojo。让机器人根据任务改写自己的工具、代码、记忆、与技能,再由物理环境选出更有能力的“下一代”。

PhysicalRSI 1.0在RoboDojo上取得了31.38%的平均任务成功率。相较于GPT-6 Astra在RoboDojo上全量测试一次需消耗20万人民币tokens费用,PhysicalRSI 1.0仅用百分之一的成本,比GPT-6 Astra的成功率相对提升了39.6%。

一、从训练动作模型,到让通用大模型直接控制机器人

通用大模型,开始在机器人评测中超过专用策略。 9 月,GPT-6 Astra在 RoboDojo上取得28.97 Score、22.48%平均成功率,超过报告比较的40个公开机器人策略。直接看图、理解指令、决定机械臂如何运动,正在成为通用大模型的一项新能力。

VLA、WAM 等路线从动作学习和物理预测入手,通用大模型则将语义理解与任务推理带入控制过程。如今,这些路线开始在同一套机器人任务上接受检验。但GPT-6 Astra的成绩也呈现出鲜明反差:总体成绩领先,精密操作成功率却只有4%。 抓取之后怎样调整姿态、如何对准插孔、多步操作如何衔接,仍是机器人必须解决的具体问题。

香港大学MMLAB提出了一个简单且高效的方案,PhysicalRSI 1.0(Physical Recursive Self-Improvement),让通用模型进一步参与这些控制问题的改进:看完一次失败的执行,模型可以修改动作程序、更换工具、调整记忆与技能的调用方式,生成不同的子代智能体,再由环境中的任务表现决定保留哪个版本。

该方案是“System 1–2 协同自进化(System 1–2 Co-Evolution)”,让负责理解与规划的“System 2”改进负责动作执行的“System 1”,同时修改两者协作的Harness。一次任务留下的经验,由此进入下一代智能体实际运行的代码与配置。

团队的目标是为RoboDojo实现一套简洁而且强大的baseline,PhysicalRSI 1.0在项目统一任务的对比中取得36.27 Score、31.38% SR,位列第一。其中最鲜明的差距来自精密操作:GPT-6 Astra的成功率为4%,PhysicalRSI为32.50% 。


▲PhysicalRSI 1.0珠峰成绩图

二、GPT-6 Astra的短板,落在“理解之后”的控制过程

插钥匙就是一个直观的例子。理解“把钥匙插进锁孔”并不难,但机器人需要先抓住钥匙,调整到可用的姿态,必要时在两只手之间交接,再让钥匙与锁孔对齐。前几步取得进展,也可能在最后的插入环节失败。Astra的RoboDojo Precision成功率为4%,说明通用推理能力尚未充分转化为精细控制能力。

在GPT-as-policy设置中,大模型根据观察直接选择运动目标,再由底层接口转成机器人指令。PhysicalRSI 1.0希望把这两层职责组织得更有效:“System 2”负责判断如何完成任务、分析哪里出错;“System 1”用技能模型、控制程序和工具完成具体动作,例如π0.5就只是其中一个可调用的动作工具。

分工之后还需要持续改进。例如,机械臂松开衣服后的回撤路径影响了后续折叠,“System 2”就可以修改回撤程序;下一次执行时,“System 1”直接运行新程序。与此同时,Harness也可以改变“System 2”读取哪些历史、何时检查结果、选择哪个工具。决策方式与执行能力都成为可修改、可评估、可继承的对象。

这就是“System 1–2 Co-Evolution”要解决的问题:将一次任务中的分析,落实成下一代智能体实际运行的程序与配置。环境中的后续表现,检验这次修改是否有效。

三、Self-Harness:让机器人改写自己完成任务的方法

PhysicalRSI 1.0用Embodied Self-Harness实现这套协同自进化。Harness可以理解为智能体的工作程序。它把基模、工具、技能和记忆连接起来:看到什么信息,采用什么计划,调用哪个技能,保留哪些状态,出现偏差后怎样处理。Self-harness 则让智能体自己修改这套工作程序。

叠衣服的版本记录给出了一个具体例子。某个候选版本改动了释放衣物后的回撤方式:下降时,记录机械臂实际经过的关节位姿;松开衣物后,沿这条路径反向返回。参数home和descent每个回合重新测量。下一代继承的是“记录路径并沿路径回撤”的方法,因此衣服位置变化后,程序仍会按当前现场重新建立状态。


Self-harness把这样的修改纳入选择过程:父代读取任务录像、动作记录和评估反馈,生成绑定不同工具、代码、记忆与技能的子代;父代与子代进入环境评估,表现更好的版本留下来,继续产生下一代。 不同候选可以修改不同环节,新增代码也可能被淘汰。这里的“适者生存”,由任务奖励或成功率具体定义。

记基模为F,第k代的完整工作程序与配置为Hₖ,则智能体为Aₖ = Agent(F, Hₖ)。主算法可简写为:

agent = Agent(F, initial_harness())
for k in range(budget):
plan = agent.plan(task) # System 2:理解与规划
trace = agent.act(env, plan) # System 1:执行与反馈
variants = agent.reflect_and_rewrite( # System 2:反思并生成子代配置
task, trace, agent.harness,
editable=(“tools”, “code”, “memory”, “skills”),
)
children = [Agent(F, h) for h in variants]
pool = [agent, *children]
fitness = evaluate_in_environment(pool, eval_tasks)
agent = select(pool, fitness) # 环境选择;继承选中的 harness

F的权重可以保持不变。变化的是H:动作技能、记忆组织、工具接口,以及规划与调用规则。大模型的推理由此能沉淀成程序,程序通过环境反馈继续被修改,选中的子代又具备改写下一代的能力。这给出了递归自我改进的具体对象、更新方式和选择依据。


▲子代继承完整的 harness 配置。System 2 提出修改,System 1 在环境中执行,任务表现决定哪些子代进入下一轮。

在叠衣服的迭代中,不同版本先后探索了回撤路径、腕部对齐、目标选择和布料跟踪。下方录像展示相应行为的变化;共同开发场景上的五个选取节点,SR 从27.5% 提升至 60%,Score从31.5 提升至 61.5。这些记录让“自进化”可以对应到具体版本、具体代码与具体动作。


▲【视频 01|叠衣服的迭代过程】


▲共同开发场景上的五个选取节点:SR 从 27.5% 提升至 60%,Score 从 31.5 提升至 61.5。

四、一套简单有效的baseline,在RoboDojo对比中取得第一

RoboDojo仿真评测涵盖42个任务,考察泛化、精密操作、长程任务、记忆与开放能力。基于此,PhysicalRSI 1.0设计了一套极为简单但有效的基线。


▲PhysicalRSI 1.0 baseline:System 2分析经验并修改Harness,System 1通过技能与工具调用Physical API,执行反馈进入下一轮改进。

这套baseline的结构很直接:多模态基模负责理解、规划和改写harness;code-policy skills、π0.5与工具负责操作;所有动作经Physical API进入环境。例如,代码技能可以把数字识别、排序和抓取串起来,也可以保存被遮挡物体的位置,或安排两只手的交接顺序 。

在相同任务子集、五类能力宏平均的口径下,PhysicalRSI 1.0取得36.27 Score/31.38% SR,高于Astra的 28.86/22.21% 和单独使用 π0.5 的 11.03/6.63%。当前官方快照中总Score最高的其他模型Simate-beta,重算到这一口径后为 31.72/25.74%。PhysicalRSI 1.0的成功率较Astra高8.90个百分点,较Simate-beta高3.42个百分点,约为π0.5的4.53 倍 。

1、精密操作:从抓到钥匙,到真正完成插入。

Precision 维度,PhysicalRSI 的SR为32.5%,为 Astra(4%)的 8.125倍。项目提供的三个 seed 评估截图中,插钥匙成功率为39.33%,π0.5、Astra 和 Simate-beta 均为0%;插管为66%,三个对照分别为3.33%、0%、22%。下方的成功录像可以看到完整的抓取、交接与插入过程。


▲【视频 02|插钥匙:抓取、交接与插入】

以下单项采用截图中的三个seed 均值,每格为Score / SR;基线来自官方对应任务记录。


2、交换积木:先腾出位置,再完成交换,朝向也必须正确。

两块T形积木占着彼此的目标位置,直接搬向目标会发生冲突。PhysicalRSI的程序先找缓冲区,将A移走,再把B放到A原来的位置,最后把A放到B原来的位置;每一步都保留目标朝向。网页评估记录中,这项任务的SR为92.67%,π0.5为0.67%,Astra为18%。视频左侧的π0.5回合最终朝向不满足要求,右侧完成了位置与朝向交换。


▲【视频 03|交换 T 形积木】

3、遮挡后揭盖:把“刚才看见了什么”保存成后续动作可用的状态。

机器人先盖住积木,再按红、绿、蓝的顺序揭开。盖住以后,当前画面已无法直接提供积木颜色;程序需要保存颜色与位置的对应关系,再按阶段调用抓取动作。网页记录中,PhysicalRSI的SR为 100%,π0.5为13.33%,Astra为46%。下方左侧回合最后一次抓杯失手,右侧完成了顺序揭盖。


▲【视频 04|遮挡后的顺序揭盖】

4、符号任务:把识别出的规则接到真实操作上。

截图记录中,解方程的SR为60%,Astra为40%,π0.5为0%;井字棋为94%,Simate-beta为60.67%。这类任务同时要求理解符号关系与完成多步操作。随机数字排序的视频则把控制过程展示得更直接:识别当前数字,按数值排序,分配目标位置,再依次抓取和放置。排序规则写进code-policy skill,动作工具完成每一步搬运。


▲【视频 05|随机数字排序】

这些案例说明了 baseline 的具体作用:用程序表达顺序、空间约束与状态,用技能完成动作,再把任务反馈送回 self-harness 修改过程。π0.5 的动作能力是其中一个组成部分,PhysicalRSI 改进的是组织这些能力的完整智能体。

结语:从一个baseline,走向具身自进化的研究基础设施

RoboDojo 是PhysicalRSI 1.0的第一个主要示例场。项目希望进一步建立具身自进化研究的基本标准:明确智能体可以修改哪些部分,子代如何生成,环境如何评估,哪些修改能够被继承。每一次能力提升,都应能追溯到对应的版本、交互记录与选择过程。

以此为基础,PhysicalRSI 1.0希望提供一套可扩展的具身自进化基础设施:用统一接口接入不同的基模、VLA、工具和物理环境;管理候选智能体及其演化谱系;记录任务反馈,并支持在一致的评估与资源预算下比较不同演化算法。这样,社区可以分别研究记 忆如何影响选择、技能如何跨任务迁移、什么样的变异与选择机制更有效。

这也是香港大学MMLAB团队所期待的principled and fundamental research foundation:把具身自进化变成有明确对象、有共同接口、有可检验过程的基础研究。今天的最小实现从桌面任务出发,后续可以接入更多机器人、接触更复杂的任务,并让来自不同环境的经验参与下一轮进化。

PhysicalRSI 1.0希望为社区提供共同的起点,去探索智能体在更广阔物理世界中持续获得新能力的方法。

项目与更多演示: https://mmlab.hk/research/PhysicalRSI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“太窒息了,我要是孩子直接跳了”,一顿廉价早餐,让母亲发小作文

“太窒息了,我要是孩子直接跳了”,一顿廉价早餐,让母亲发小作文

熙熙说教
2026-10-12 13:43:52
今晚开播,东方、北京卫视又一王炸大剧来袭!演员阵容强大,要火

今晚开播,东方、北京卫视又一王炸大剧来袭!演员阵容强大,要火

手工制作阿歼
2026-10-29 13:02:04
公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

你在偷看谁
2026-10-08 19:57:01
蓉城沉戟大济南,大连欢庆梭鱼湾?宋凯此行成中超最大谜题

蓉城沉戟大济南,大连欢庆梭鱼湾?宋凯此行成中超最大谜题

狮王乱弹
2026-10-29 08:20:03
苹果亲口承认iPhone Duo开裂,韩供应商撇干净,绕开中国的代价?

苹果亲口承认iPhone Duo开裂,韩供应商撇干净,绕开中国的代价?

王新喜
2026-10-27 16:09:45
孔东梅长得最像毛主席,她嘴角也有一颗痣,小时候陪伴贺子珍身边

孔东梅长得最像毛主席,她嘴角也有一颗痣,小时候陪伴贺子珍身边

大江
2026-09-08 11:17:28
长餐桌为什么突然没人买了?内行人说出了实情,原因其实很简单!

长餐桌为什么突然没人买了?内行人说出了实情,原因其实很简单!

设计最前沿
2026-10-29 15:12:29
炸了!美国正把自己埋进坑里,中国根本不用出手,等着看就行!

炸了!美国正把自己埋进坑里,中国根本不用出手,等着看就行!

知法而形
2026-10-18 08:09:13
张红梅任贵阳市副市长

张红梅任贵阳市副市长

上观新闻
2026-10-29 09:51:47
公公趁我出差偷过户婚房给小叔子,签字时才发现,业主根本不是我

公公趁我出差偷过户婚房给小叔子,签字时才发现,业主根本不是我

云端书馆
2026-10-29 08:26:29
从姆巴佩事件谈审核制度,其实中国和外国没什么本质的不同

从姆巴佩事件谈审核制度,其实中国和外国没什么本质的不同

歪歌社团
2026-10-28 23:58:46
今日!CCTV5直播U17中国女足,5-转国乒,网络转CBA+中超申花出战亚冠+NBA+意甲AC米兰等

今日!CCTV5直播U17中国女足,5-转国乒,网络转CBA+中超申花出战亚冠+NBA+意甲AC米兰等

晚池
2026-10-29 00:08:39
扎哈罗娃批评日本

扎哈罗娃批评日本

政知新媒体
2026-10-29 08:55:37
不知道大家发现没有?形势越来越严峻了,演习变成实战

不知道大家发现没有?形势越来越严峻了,演习变成实战

叶老四
2026-10-25 14:23:29
姆巴佩摊上事了!一句场外失言,丢掉中国市场大蛋糕

姆巴佩摊上事了!一句场外失言,丢掉中国市场大蛋糕

段哥说事
2026-10-27 18:19:10
《伟大的长征》钱壮飞掉队那段,越想越可惜:一个拆过六封绝密电报的人,最后居然被一匹骡子要了命

《伟大的长征》钱壮飞掉队那段,越想越可惜:一个拆过六封绝密电报的人,最后居然被一匹骡子要了命

磊子讲史
2026-10-28 15:24:26
王刚也没料到,刘欢才离开 3 天,前妻成方圆仅因一个举动口碑飙升

王刚也没料到,刘欢才离开 3 天,前妻成方圆仅因一个举动口碑飙升

观察鉴娱
2026-09-29 09:53:22
失散17年弟弟回家团聚,团圆饭当场指着姑姑:就是她!

失散17年弟弟回家团聚,团圆饭当场指着姑姑:就是她!

观观说事
2026-10-28 22:35:03
大连VS天津,泰山VS蓉城,于根伟和唐田都发话,辽宁日报预测翻车

大连VS天津,泰山VS蓉城,于根伟和唐田都发话,辽宁日报预测翻车

体育大学僧
2026-10-29 09:37:48
看蒋万安给三个儿子起的名字,就知道他骨子里的中国人身份,藏不住

看蒋万安给三个儿子起的名字,就知道他骨子里的中国人身份,藏不住

笔墨V
2026-10-29 12:10:32
2026-10-29 16:04:49
机器人前瞻
机器人前瞻
智东西AI媒体矩阵品牌。机器人前瞻,机器人产业新媒体,专注报道全球机器人创新。
1017文章数 20关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

小博索纳罗抵美 发公开信自称"巴西领导人"并感谢两人

头条要闻

小博索纳罗抵美 发公开信自称"巴西领导人"并感谢两人

体育要闻

普通人徐嘉余的入口与出口

娱乐要闻

李嘉格自曝离婚内情:过错方净身出户

财经要闻

两大娱乐巨头,谈崩了

汽车要闻

首销期权益价23.98万起 2026款理想i6上市

态度原创

教育
时尚
艺术
家居
数码

教育要闻

“双一流”高校公布,计算机科学与技术等5个专业停招

今年秋冬最火的4双鞋,配风衣时髦又好看!

艺术要闻

16岁开始打工,40岁拿影后,她早就该火了

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

MausStudio项目亮相:玩家可自行设计并3D打印专属游戏鼠标外壳

无障碍浏览 进入关怀版