网易首页 > 网易号 > 正文 申请入驻

面壁智能带着家底,杀入具身智能

0
分享至

对机器人「动手动脚」

今天,7月19日,面壁智能在 WAIC 期间发布并开源了首个具身智能系列模型成果,MiniCPM-Robot,包含两个部分

  • 第一个模型管手MiniCPM-RobotManip,通用 VLA 模型,1.5B,机器人看着画面听着指令,输出动作,本地部署

    ↓ MiniCPM-RobotManip 在真机上完成三明治制作(5倍速)

  • 第二个模型管腿MiniCPM-RobotTrack,这个是和南京大学合作的项目,跟踪导航模型,0.9B,原生适配宇树 Go2 Edu,纯本地部署

    ↓搭载 MiniCPM-RobotTrack 的机器狗可以在开放环境下零样本指令跟随

简而言之:面壁对着「机器人model」,动手动脚

当然了,同一时间发布的,还有个推理框架 PhyAI,是明体科技联合北邮、北大研发,端云一体,全栈优化,为这次面壁具身模型的落地,做底层支撑


面壁这家公司,一直的绝活就是把大模型往小里做、往设备上搬,其小钢炮 MiniCPM 在开源社区出名声在外,而多模态的 MiniCPM-V/O 在练习迭代,时长高达两年半之后,总下载量过了 2500 万

今年具身赛道也是大火,而面壁的这些积累和经验也派上了大用场,具身智能眼下的卡点,恰好全对着端侧的老本行:本地部署、上下文管理、推理优化


面壁智能学术合伙人、多模态智能首席科学家姚远

先说记性

模型也好、机器人也罢,其实是没有时序记忆的,也不是真的会数数(在不调用工具的前提下),之前不还有一个问题么:9.11 和 9.9 谁大?

如果放在具身环境里,如果不进行专门的记忆优化,百分百爆炸。比如让现有的机器人去按某个按钮 5 次,对于大多数的机器人,要么按 1 次就停,要么按个不停...虽然很离谱,但这是真的


如果需要让机器人按 5 次就刚好收手,就需要把机器人【视觉、语言、动作】这三个信息进行长程任务优化。这里补充一个信息,经常你会在具身智能的有关介绍里看到「VLA 模型」,其实就分别对应了:V-视觉、L-语言、A-动作

至于原因,是架构里没给记忆留位置


但为什么不留呢?算不动

机器人不同于大模型,需要本地高频进行计算,否则就会状况频出。在这种场景下,机器人每秒推理好几次,每次进三张图,两个腕部相机加一个主视角。倘若真把历史画面全带上,token 就直接炸了

而对于 token 的高效使用,恰好是端侧多模态的基本功,MiniCPM-V 一代一代练的就是这个。MiniCPM-RobotManip 是基于 5 月发布的 MiniCPM-V 4.6 训练,那个模型两个月下载破 200 万,视觉 token 压缩做到了极致,并在具身场景下,实现了记忆

MiniCPM-RobotManip 具有原生记忆能力 (8倍速)

作为另一个结果:面壁的模型,即便是带上历史观测数据,进行流式推理,计算量跟单帧反应式一个成本



对于 VLA 的上下文记忆,其实也是有专门的 Benchmark 的,比如RMBench(人民币 Bench?),全名 Robot Memory Benchmark。 主流模型在这个榜上的成绩,基本没比乱猜好多少...接近随机

而面壁的模型由于进行了记忆优化,在这一领域有了显著的优势:RMBench 拿到 53 分的水平。当然其他的传统榜单也站在第一梯队,这里就不具体说了


这背后其实也有面壁家底的作用,对于多数 VLA 团队,会从眼下出发,先扎进一个场景把专项做精,再从点铺到面。在这一方面来说,作为模型训练团队,面壁起手就是是通用智能,把多任务进行统一训练,综合的编码效率自然会更高

本地部署

先看个视频吧,翻车现场

这也是具身智能落地的老现象:demo 很惊艳,机器人很落地(字面含义)

机器人在脱离了管控、网络信号之后,很多事情经常无法预测,典型的就是电梯和地下停车场。家庭和工厂还多一层顾虑,画面往云上传,隐私和合规都难以解决。机器人终归要进人类社会,跟人朝夕相处,VLA 早晚得跑在终端上


至于端侧,这对于面壁来说就是肌肉记忆了,而 MiniCPM-RobotTrack 就是按这个标准做的:底座是自家 MiniCPM4,原装摄像头加机载算力,一键脚本部署

做出来的成品,更是业内首个真实本地纯无网部署的 tracking 模型,机器狗原生算力上稳定 5+ FPS,端到端时延约 180 毫秒


即便是纯本地,性能也未打折,比如看下面的这个榜单跟踪能力按三种真实场景考,单目标跟踪、多人干扰、模糊指令,三项追踪率 89.8、73.4、80.4,开源方案里全是最优,对比开源的 OpenTrackVLA,分别高出 7.0、14.6、6.5 个百分点

对比名单里还有个闭源的 TrackVLA++。放在相同的单视角、纯 SFT 设定下比,RobotTrack 在单目标和模糊指令两项,分别领先 8.8 和 17.0 个百分点,模糊指令的成功率做到 58.0%

这背后是怎么做到的呢?更好的数据

为此,面壁团队搭了条自进化管线,用的是 DAgger 闭环:模型先在大规模通用数据上学个底子,再扔进仿真和真机里持续交互,把自己的短板暴露出来,横穿镜头、快速转向、短时遮挡。系统盯着薄弱场景定向采集,专家策略补上高质量数据,回炉再训


再往远处想一步,这套无网跟踪能去的地方不少。地震火灾这种通信瘫痪的现场,跟着救援人员钻废墟,这些都是在脱网环境...想必之后,「断网测试」也会成为具身大脑出场测试的标准

推理速度

大模型卡一卡其实无所谓的,没啥大的影响(除了让你不爽外)

但机器人是要真实进入生活的,是不能卡的...你就想吧,机器人这玩意儿,如果给你拉拉链,稍微延迟这么半秒,然后咔嚓一下,对吧...所以通常来说,机器人操作有条红线:响应时间不能过长,不然就是个寄


那么我们倒推一层,如果我们要压低响应时间,就需要分别在【算力、参数和推理】这三个方面分别下功夫

  • 算力这块,目前也不是你我能决定的,就不在讨论了

  • 参数这块,在当前版本中,其实也是被锁住的,而对于 VLA 的参数规模,行业普遍跟着先驱 π 系列走,3B 上下,再大的话,在机器人这块的体验并没有明显变化

  • 至于推理,就是在终端上,把每一寸算力都抠出来,而这个,恰好又是端侧公司的看家本领

干这个活的,是开头提到的推理框架 PhyAI,在发布首日就完成了对 MiniCPM-Robot 的适配:

  • 先用 CUDA Graph 加速,推理帧率从 10.12 Hz 提到 33.28 Hz;

  • 再用 triton 写了一批定制融合算子,减少中间变量的搬运,在 H20 上进一步干到 36.77 Hz

并且这事儿吧,是能让整个行业受益:比如在 RTX 5090 上跑 π0、π0.5、GR00T,分别加速 2.85、1.82、2.28 倍

落地使用

让我们把视角,从模型挪到落地,目前公开的有两条线

先是乐聚。面壁联合乐聚机器人发了两套方案:展厅导览&园区巡检

  • 展厅导览:无网状态下纯端侧运行,本地知识库离线讲解,自由问答,顺带实时理解展厅环境,规划路线避障

  • 园区巡检:盯违停车辆、路面异常、公共设施异常,敏感画面就地分析,数据主权归客户


你会发现,这些个场景里主要考验的就是端侧能力,毕竟展馆和园区的那种信号信号啊,你懂的


第二条线是工业,代表的就是是吉利,两边从模型层开始合作,两边联合训练 VLA,再用 RoboHarness 框架把多模态大模型、VLA、导航系统串成整体,在仓储场景跑长程任务,内置数据闭环,来回训练


最后

这事儿说到底就一句:面壁做具身智能了,带着端侧攒下的全部家底进的场

做 AGI 的公司,终归要从语言走进物理世界。对同行来说,面壁这条路径也算个参照:机器人的卡点,未必都得在自动化的技术里找答案

还有就是...面壁目前也在招人,尤其是具身智能方向的,感兴趣的可以访问这里,招聘直达:

面壁内推


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人形机器人IPO变天!宇树科技成科技股大笑话,监管层终于出手了

人形机器人IPO变天!宇树科技成科技股大笑话,监管层终于出手了

故事终将光明磊落
2026-09-09 21:22:52
爱发语音的女子突然发来大段文字,家人报警一周后等来其死亡的消息,案件细节披露:相识网友以拍摄写真为由,让其带上全部饰品外出后行凶

爱发语音的女子突然发来大段文字,家人报警一周后等来其死亡的消息,案件细节披露:相识网友以拍摄写真为由,让其带上全部饰品外出后行凶

扬子晚报
2026-09-10 07:58:29
再见17!iPhone18彻底补全所有短板,刚买17的人心态崩了

再见17!iPhone18彻底补全所有短板,刚买17的人心态崩了

小柱解说游戏
2026-09-09 02:05:46
联盟第二老!鹈鹕官宣裁掉与詹姆斯同龄吉布森 或退役结束17年生涯

联盟第二老!鹈鹕官宣裁掉与詹姆斯同龄吉布森 或退役结束17年生涯

醉卧浮生
2026-09-09 23:57:29
波多黎各主帅:中国太强不想再和她们对阵 能否把张子宇送给我们队?

波多黎各主帅:中国太强不想再和她们对阵 能否把张子宇送给我们队?

罗说NBA
2026-09-10 07:03:11
无缘首进美网四强!郑钦文1-2终结7连胜 莱巴金娜首登世界第一

无缘首进美网四强!郑钦文1-2终结7连胜 莱巴金娜首登世界第一

醉卧浮生
2026-09-10 01:57:47
往长江倒黑泥后续!央视出手,真相终于大白,始作俑者要被重罚

往长江倒黑泥后续!央视出手,真相终于大白,始作俑者要被重罚

兵卒史
2026-09-09 17:37:28
“长沙摸臀案”舆论升级!知名作家陈岚称,如果发生在美国,遇到的处理方式是以保护未成年人的角度出发的

“长沙摸臀案”舆论升级!知名作家陈岚称,如果发生在美国,遇到的处理方式是以保护未成年人的角度出发的

火山詩话
2026-09-09 07:30:38
疯狂进球大战:总共轰入9球,阿隆索神换人,切尔西奇迹逆袭,1亿巨星梅开二度

疯狂进球大战:总共轰入9球,阿隆索神换人,切尔西奇迹逆袭,1亿巨星梅开二度

足球狗说
2026-09-10 06:15:54
年薪增至1900万,是美国总统7倍:全球最高薪领导人,为何还大幅加薪?

年薪增至1900万,是美国总统7倍:全球最高薪领导人,为何还大幅加薪?

40度观察
2026-09-09 17:17:33
转让二手电脑遇到“仅退款”套路,卖家从浙江打顺风车直奔800公里外讨说法;警方已刑事立案,已抓获3名犯罪嫌疑人

转让二手电脑遇到“仅退款”套路,卖家从浙江打顺风车直奔800公里外讨说法;警方已刑事立案,已抓获3名犯罪嫌疑人

都市快报橙柿互动
2026-09-10 01:16:03
真离谱!曝员工被禁止上厕所后裸奔抹屎,宁德时代辟谣并报警,公司群聊曝光,真相浮出水面!

真离谱!曝员工被禁止上厕所后裸奔抹屎,宁德时代辟谣并报警,公司群聊曝光,真相浮出水面!

谭谈社会
2026-09-09 23:27:16
欧冠上演英超西甲焦点大战:6.8亿豪门1-2被逆转 惨遭死敌5连斩

欧冠上演英超西甲焦点大战:6.8亿豪门1-2被逆转 惨遭死敌5连斩

狍子歪解体坛
2026-09-10 04:57:39
1-2被逆转!郑钦文输球原因曝光,3项数据拉胯,后续参赛计划敲定

1-2被逆转!郑钦文输球原因曝光,3项数据拉胯,后续参赛计划敲定

侃球熊弟
2026-09-10 02:08:46
女篮世界杯:中国险胜波多黎各晋级八强 韩旭21+11杨舒予15+11

女篮世界杯:中国险胜波多黎各晋级八强 韩旭21+11杨舒予15+11

颜小白的篮球梦
2026-09-10 01:32:56
知名刑辩律师朱明勇:远洋捕捞逐利性执法历朝历代都是要杀头的,南通公安局长高山就是被我告进去的

知名刑辩律师朱明勇:远洋捕捞逐利性执法历朝历代都是要杀头的,南通公安局长高山就是被我告进去的

追月数星
2026-09-09 20:08:26
一场2-3!输球不可怕,更可怕的是赛后蒯曼这番话:让人很揪心

一场2-3!输球不可怕,更可怕的是赛后蒯曼这番话:让人很揪心

江启
2026-09-10 00:01:07
中国女篮3分险胜晋级八强!赛后韩旭竟然这样说,老天在考验我!

中国女篮3分险胜晋级八强!赛后韩旭竟然这样说,老天在考验我!

田先生篮球
2026-09-10 03:51:59
9月9日俄乌最新:150平方公里,俄媒先崩了

9月9日俄乌最新:150平方公里,俄媒先崩了

西楼饮月
2026-09-09 22:26:48
董建华后代现状:长子经营家族企业,长女嫁美国人,幼子最有出息

董建华后代现状:长子经营家族企业,长女嫁美国人,幼子最有出息

青梅侃史啊
2026-09-09 16:44:40
2026-09-10 09:36:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
552文章数 58关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

iPhone18 Pro系列价格公布:A20 Pro芯片 续航大幅提升

头条要闻

iPhone18 Pro系列价格公布:A20 Pro芯片 续航大幅提升

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲被处罚2天,身边人传出好消息

财经要闻

银行新高!新一轮周期,刚开始!

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

本地
健康
亲子
教育
军事航空

本地新闻

宁波,中国制造的隐藏大佬

中风康复为何像“抽丝剥茧”?

亲子要闻

媳妇说以后她来管钱,每个月给我200零花钱,还得戒烟戒酒才行

教育要闻

教师节不送礼、不讨好,看我用“打游戏的思维”跟老师搞好关系

军事要闻

中东“两线战火”同时升级

无障碍浏览 进入关怀版