网易首页 > 网易号 > 正文 申请入驻

大道至简!复旦×南洋理工提出SimpleVLN,用原生MLLM刷新导航SOTA

0
分享至



设想这样一个场景:给机器人下达一句自然语言指令,让它穿过走廊、接连转弯,最终走进指定房间。视觉语言导航(VLN),需要让机器人结合沿途看到的画面,把人类的语言指令转化为一连串连续行动。

现有多数 VLN 方法会引入专门的空间推理模块、图结构建模或分层决策系统来增强导航能力,但多模态大模型本身自带的导航潜力,究竟能不能被充分激活,还有待深入探索。复旦大学与新加坡南洋理工大学团队开辟了新的研究思路:能不能不改动多模态大模型的核心结构,也不新增专门的导航模块,仅靠巧妙的决策设计与训练流程,充分发挥模型原生能力,完成导航任务?



  • 论文标题:SimpleVLN: Towards Simple and Frontier Vision-Language Navigation With Native MLLMs
  • 作者:Lingyi Hong, Weiren Cai, Jiayu Chen, Xinyu Zhou, Bailin He, Yunfei Guo, Qiao Sun, Xiang Liu, Boyu Ma, Jianfei Yang, Wenqiang Zhang
  • 机构:复旦大学,新加坡南洋理工大学,联想研究院
  • 论文链接:https://arxiv.org/pdf/2610.23203v1
  • 项目主页:https://simplevln.github.io/
  • 代码仓库:https://github.com/simplevln/SimpleVLN



图 1|SimpleVLN 的研究问题与两项导航基准上的表现。

给机器人看什么,又该让它怎么走?

机器人转过一个弯后,眼前的画面可能已经与之前截然不同。此时,它既需要判断自己当下的位置,还要结合之前看到的画面,规划后续行进路线。

不过历史画面并非存得越多越好:全部保存会不断拉长输入;只保留最近几帧,又容易丢失早前的路线信息。

SimpleVLN 把每一次模型调用都当作一次独立决策,输入包含导航指令、当前画面以及筛选后的历史观测,不会持续累积过往对话与动作。针对历史图像,团队采用全局 + 局部的组合策略:从早期观测里均匀采样,同时保留最新一帧画面。

消融实验证明,把所有历史图像全部输入并不会提升效果;对全局历史做均匀采样反而效果更佳,继续增加局部帧也无法继续提高导航成功率。



图2|历史帧和局部帧数对导航性能的影响。

由此可见,重点不在于输入多少历史图像,而是如何利用有限画面,保留关键路线信息。

在动作输出上,模型每次预测一段有序的基础动作,交由环境依次执行,称为动作块(Action Chunking)。实验中,动作块将导航成功率从 45.6% 提升到 53.6%。这说明,如何组织一次决策所使用的信息,以及一次推理所输出的动作,都会影响连续导航表现。



图 3|SimpleVLN 根据导航指令、当前画面与选出的视觉历史,直接预测一组连续动作。

走偏了?偏离的轨迹也能用于训练

监督微调(SFT)让模型从专家示范中学习导航动作。但在真正执行任务时,机器人很容易走出和专家示范不一样的路线,遇到示范数据里没有见过的场景。如果只学习固定的专家轨迹,很难覆盖这些意外情况。

SimpleVLN 通过 DAgger 算法,将模型策略产生的轨迹纳入训练数据构建过程。研究团队根据策略轨迹与真实轨迹之间的偏离程度进行筛选:偏差较大时,使用专家轨迹做指导;偏差较小时,则保留模型自身生成的轨迹。随后,这些轨迹被转换为决策级监督样本,与原有专家示范合并,用于继续训练模型。

在结合 R2R、RxR 和 ScaleVLN 示范数据后,DAgger 让模型在 R2R-CE 数据集上成功率从 57.9% 提升至 65.4%,RxR-CE 上从 55.3% 提升至 63.4%。

训练数据不再局限于固定专家示范,纳入模型自身探索轨迹,大幅增强了模型的纠错能力。



表 1|专家示范覆盖与 DAgger 数据的对照。模型执行经验带来表中最大的成功率增幅。

让机器人实地交互,导航能力还能再上一层楼

SFT 和 DAgger 依靠动作监督信号训练模型,但这种方式有局限:哪怕模型走出了一条和专家完全不同、却能顺利抵达终点的路线,单纯比对单步动作是否匹配参考轨迹,无法评判决策好坏。

导航任务的核心目标,是能否完整走完任务、抵达终点。一次转弯会改变后续视野,一整套动作共同决定机器人最终位置。SimpleVLN 因此进一步引入强化学习 (RL):不再局限于教模型每一步应该怎么走,而是让模型在仿真环境中实际完成任务,再根据最终结果调整策略。

研究团队先构建全新导航任务:在导航场景中设置不同起点与目标房间,依托多模态模型,结合沿途转角、房间、标志性物体和第一视角画面,生成配套的自然语言导航指令。

在这些新任务中,模型通过动作块与环境持续交互,根据指令、当前画面和历史观察连续作出决策,直到任务结束。训练则根据整段导航是否成功完成来提供反馈。

在新任务中,模型借助动作块与环境持续交互,根据指令、当前画面和历史观测持续决策直到任务结束。训练反馈以整段导航任务结果为准:评判机器人能否停在目标附近,任务成功得 1 分奖励,失败则为 0。模型不必复刻专家路线,只要顺利到达目的地,就算路线不一样,同样可以获得正向奖励。

这也改变了模型学习导航的方式。模型需要通过多次策略执行产生的任务结果,在后续优化中逐步调整动作选择。



图 4|专家示范、模型执行经验与新生成的导航任务,依次进入 SimpleVLN 的训练流程。

任务结果提供的反馈带来了进一步提升。以 Qwen3-VL 4B 模型为例,经过 DAPO 强化学习优化后,R2R-CE 的成功率从 65.4% 提高到 73.8%,RxR-CE 从 63.4% 提高到 75.1%,分别增加8.4 和 11.7 个百分点

不改核心架构,依旧实现优秀导航性能

研究团队将 SimpleVLN 适配多款不同参数量的多模态大模型。在 R2R-CE、RxR-CE 的未见过环境测试中,Qwen3.5 9B 取得 76.7%、80.1% 的导航成功率,相比 Qwen-RobotNav 8B,两项指标分别高出 4.6 和 3.6 个百分点。



表 2|R2R-CE 与 RxR-CE 未见环境验证集上的结果;† 与 * 分别对应 RL 前后。

推理效率方面,在保持较高导航成功率的同时,SimpleVLN 也具备较低的推理延迟。基于 Qwen3-VL 4B 的 SimpleVLN 在 NVIDIA A100 上,每次动作块决策的模型执行时间为 293 毫秒,与流式导航方法 StreamVLN 延迟相近。



表 3|相同 A100 上的模型推理时间与导航表现。

走进现实,实体机器人听懂语言指令导航

除了仿真环境中的评测,研究团队还将 SimpleVLN 部署到四足机器狗上。机器狗可以依据多步指令完成直行、转弯、进入房间,并在目标附近停下的过程,并且展现出强大的泛化能力。

任务一:沿走廊前进,左转后进入第一个房间。



视频链接:https://mp.weixin.qq.com/s/tIqgcrWdv9oHGa4PXb_MQw

任务二:向前走,左转后继续前进,停在黄色立柱旁。



视频链接:https://mp.weixin.qq.com/s/tIqgcrWdv9oHGa4PXb_MQw

总结

SimpleVLN 的核心思路,不是给多模态大模型叠加复杂的专用网络结构,而是通过精巧的决策设计、融合模型自探索轨迹的训练数据,加上环境交互式学习,充分释放原生多模态大模型的连续导航能力。该框架依托观测筛选、动作块决策,搭配三阶段训练方案,无需改动模型主干,就能在仿真任务取得优异效果,部署到实体四足机器狗后,在真实导航场景下也有着强大泛化能力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
39岁荣昊曝恒大内幕:李铁只捞俱乐部钱,里皮三次请我吃饭

39岁荣昊曝恒大内幕:李铁只捞俱乐部钱,里皮三次请我吃饭

汤圆看体育
2026-10-30 11:08:11
成都、重庆、西安三城舞厅关停后!舞女求4500月薪保姆活犹豫落泪

成都、重庆、西安三城舞厅关停后!舞女求4500月薪保姆活犹豫落泪

成都人的故事
2026-10-29 19:25:04
中央纪委副书记、国家监委副主任张福海:正风肃纪必须锲而不舍、久久为功

中央纪委副书记、国家监委副主任张福海:正风肃纪必须锲而不舍、久久为功

政知新媒体
2026-10-30 10:57:08
外企在加速撤离?网传在华深耕30年的行业巨头将出售大中华区业务,上万员工该失业了!

外企在加速撤离?网传在华深耕30年的行业巨头将出售大中华区业务,上万员工该失业了!

黯泉
2026-10-30 11:02:13
朝鲜国防省:美韩对朝挑衅活动加剧半岛军事紧张

朝鲜国防省:美韩对朝挑衅活动加剧半岛军事紧张

新华社
2026-10-30 14:05:26
中共中央新闻发布会,信息量很大!

中共中央新闻发布会,信息量很大!

极目新闻
2026-10-30 11:07:31
银行职员输错数字,存2500元变25000元,储户以“离柜概不负责”为由拒绝退还,湖北一法院判了:要还

银行职员输错数字,存2500元变25000元,储户以“离柜概不负责”为由拒绝退还,湖北一法院判了:要还

极目新闻
2026-10-30 07:16:58
俄罗斯袭击客运列车站台 英国送上史上最大单笔援助

俄罗斯袭击客运列车站台 英国送上史上最大单笔援助

西楼饮月
2026-10-29 21:07:41
上海男子负债3800万元后立即离婚净身出户,两套房一辆车全归妻子,强制执行时其名下已无可执行财产,法院:撤销离婚财产分割约定

上海男子负债3800万元后立即离婚净身出户,两套房一辆车全归妻子,强制执行时其名下已无可执行财产,法院:撤销离婚财产分割约定

扬子晚报
2026-10-30 12:46:48
24小时破万,两个月卖559台,享界G9到底打了谁的脸

24小时破万,两个月卖559台,享界G9到底打了谁的脸

擎商
2026-10-29 12:16:59
美日宣布达成协议,将在日本联合生产导弹,中方:美日开展安全合作,不应破坏地区和平稳定,不应针对他国或损害他国利益

美日宣布达成协议,将在日本联合生产导弹,中方:美日开展安全合作,不应破坏地区和平稳定,不应针对他国或损害他国利益

每日经济新闻
2026-10-29 20:43:18
大消息!刚刚,美国重大发布

大消息!刚刚,美国重大发布

证券时报
2026-10-29 22:14:10
欧洲尴尬了!塞尔维亚新政府立场比武契奇还硬

欧洲尴尬了!塞尔维亚新政府立场比武契奇还硬

娱乐的宅急便
2026-10-29 10:48:15
42岁卡戴珊公开择偶清单:不能有微阴茎,不介意整容

42岁卡戴珊公开择偶清单:不能有微阴茎,不介意整容

自愈小日子
2026-10-30 00:22:07
3岁爸爸去世,5岁妈妈改嫁,24岁小伙结婚邀网友喝喜酒撑场面,300桌加到400桌后改自助餐!有人送冰箱、带整头猪,还有五星级大厨来帮忙

3岁爸爸去世,5岁妈妈改嫁,24岁小伙结婚邀网友喝喜酒撑场面,300桌加到400桌后改自助餐!有人送冰箱、带整头猪,还有五星级大厨来帮忙

都市快报橙柿互动
2026-10-30 03:19:54
熟人喊去泰国旅游,转身就被拐进妙瓦底电诈园区:长得很漂亮,已被折磨近仨月,拿50万也不放人

熟人喊去泰国旅游,转身就被拐进妙瓦底电诈园区:长得很漂亮,已被折磨近仨月,拿50万也不放人

怪味历史连连看
2026-10-30 00:15:08
杨瀚森复出3+2+1帽!灰熊5连胜送开拓者首败 探花18+11+12

杨瀚森复出3+2+1帽!灰熊5连胜送开拓者首败 探花18+11+12

醉卧浮生
2026-10-30 12:20:34
商家:姆巴佩曾代言的饮料之前销量很好,现在直接是0

商家:姆巴佩曾代言的饮料之前销量很好,现在直接是0

懂球帝
2026-10-30 09:01:49
德国网友嘲讽中国街头“人种单一”不够开放,中国网友一句神回复,直接让他哑口无言

德国网友嘲讽中国街头“人种单一”不够开放,中国网友一句神回复,直接让他哑口无言

雪饼说
2026-10-30 09:29:22
又轰下44+8+6!抱歉詹姆斯:你的NBA纪录要不保了

又轰下44+8+6!抱歉詹姆斯:你的NBA纪录要不保了

篮球大视野
2026-10-29 18:05:52
2026-10-30 14:23:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14343文章数 142753关注度
往期回顾 全部

科技要闻

谷歌一天跌没5000亿美元!AI烧钱吓傻华尔街

头条要闻

美军称已准备好应对中方可能的台海行动 美专家:醒醒

头条要闻

美军称已准备好应对中方可能的台海行动 美专家:醒醒

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

72岁成龙上热搜!手抱甥外孙和蔼

财经要闻

恒大物业新东家,定了

汽车要闻

少卖3.4万台车 多赚17亿欧元:保时捷的"反向"三季报

态度原创

艺术
教育
健康
数码
家居

艺术要闻

16位当代画家优秀作品

教育要闻

别为孩子“懂事”骄傲,他可能在当你的父母

查不出猝死风险?可能是项目没做对

数码要闻

1年涨760%!内存价格疯涨,128GB DDR5套装突破50万日元

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版