网易首页 > 网易号 > 正文 申请入驻

IJCAI 2026 专访:动作指挥计算,VLA 加速不降准 | GAIR Paper 125

0
分享至


将动作从输出端搬到调度端,推理速度提升1.79倍。

作者丨邓哲敏

编辑丨齐铖湧

机器人想要真正走进千行百业、千家万户,有一道绕不开的坎:它得足够快。

不说快到能打羽毛球那,至少得快到让人觉得这玩意儿能用。一个机械臂每动一下都要停顿两三秒,哪怕成功率再高,在工业场景里算下来的投入产出比也很难说服人。

VLA 模型是当前具身智能领域最受关注的技术路线之一。它把视觉感知、语言理解和动作生成整合进一套模型,让机器人能够依据语言指令完成复杂操作任务。但 VLA 模型有一个部署层面的老大难问题:推理太慢。

每个控制时刻,模型都要把一个庞大的视觉语言骨干网络跑一遍,计算量极大,导致延迟居高不下,实时控制频率难以保证。

这个问题并不新鲜,学界已经有不少人在尝试解决。今年 IJCAI 收录的一篇论文认为,现有的大多数方案都走偏了一步。AI科技评论联系到一作于闻达,围绕高效 VLA 方法进行交流。


论文原文:https://arxiv.org/abs/2601.19634

01


大家都在剪视觉,

但问题真的在这儿吗

现有的高效 VLA 方法,主流路线是在视觉侧做文章,剪掉“不重要”的视觉 token,跳过一些 Transformer 层,或者直接复用上一帧的计算结果。逻辑上听起来合理:视觉信息最占计算,减掉多余的视觉计算,自然就快了。

但这里有一个被忽视的矛盾。

在机械臂执行任务的过程中,视觉上的复杂程度和操作上需要的精度,并不总是同步的。机械臂接近目标的阶段,画面可能非常简单,但这时候恰好需要全力计算,因为精细的夹取动作容不得误差;反过来,大幅移动阶段画面变化激烈,但其实不需要太多计算资源。

换句话说,视觉复杂度不等于控制难度以视觉信号来决定这一帧算多少,天然就抓错了对象。

AC²-VLA 一作于闻达告诉AI科技评论,团队在调研文献时发现了这个矛盾,并意识到 VLA 模型闭环控制过程中,真正能反映当前时刻需要多少计算的,是机器人的动作状态,而不是视觉画面。


这个判断很直观,和 VLA 的逻辑也很吻合——V是视觉,L是语言,A是动作,既然VLA的最终产出是动作序列,那用动作来指导计算分配,才是真正贴近这类模型本质的做法。

基于这个出发点,他们提出了 AC²-VLA,全称是Action-Context-Aware Adaptive Computation for VLA models,即动作上下文感知的自适应计算框架。两个 AC,一个代表Action Context(动作上下文),一个代表Adaptive Computation(自适应计算),名字里藏着双关。

02


让动作来“拍板”

AC²-VLA 的框架主图展示了整体架构:视觉观测经过视觉编码器,语言指令经过 embedding,加上上一时刻的动作信息,三者共同构成一个动作先验条件向量,输入进一个统一的路由器(router)。这个 router 的输出,决定了当前时刻的计算策略。


具体来说,router控制三件事:

一、cognition caching(认知缓存复用)

如果当前动作状态比较稳定,router 认为可以尝试复用上一步的 VLM 骨干网络输出,就会发起复用请求。但这个请求不等于直接复用,还需要看缓存是否能命中,综合判断运动状态是否连续、视觉状态是否匹配。两个条件都满足,才会跳过整个 VLM 骨干的计算,直接将缓存中的特征向量送入 action head 生成动作序列。

二、token pruning(视觉token剪枝)

router 会为每个视觉 token 打分,判断它与当前操作阶段的相关程度。不相关的 token 被直接丢掉,缩短序列长度,减少计算量。这一步的依据同样来自动作上下文,机械臂正在接近夹取目标时,夹爪附近区域的 token 更重要;大范围移动时,这些区域的权重会相对下降。

三、layer skipping(层跳过)

并非每一层 Transformer 都需要每次执行。router 根据动作上下文判断当前需要多深的计算,对不需要的层直接跳过。有意思的是,不同任务阶段跳过的不一定是同样的层,同样保留28层,接触阶段和移动阶段调用的层序号可能完全不同,模型学会了在不同阶段调用最合适的网络深度。

这三个机制由同一个 router 统一调度,而不是各自用不同的启发式规则来判断。这也是 AC²-VLA 和此前工作最核心的区别之一,之前的方法即使有类似的机制,也往往相互独立,没有统一的训练过的路由来智能分配。

03


自蒸馏,一个很关键的训练设计

Router 的训练方式值得单独解释。

自然会有人想到,为什么不直接用任务成功率来监督 router 的学习?让它学会成功率高的时候可以少算,成功率低的时候多算?

问题在于,任务成功率是一个非常稀疏、非常离散的信号,而且只有完整跑完任务才能知道结果,没有办法实时反馈到每个时间步的计算决策上。更重要的是,如果以成功率为优化目标,框架的泛化性就会受损,换一个 backbone,成功率分布完全不同,原来学到的计算策略就失效了。

AC²-VLA 的解法是自蒸馏(self-distillation):用稠密策略(dense policy,即原始未稀疏化的模型)作为teacher,让稀疏化之后的 student 模型去模仿 teacher 的动作输出和骨干网络特征表示。

稠密模型已经在 Open X-Embodiment 数据集上训练过,对这些任务有一定的成功能力,用它作为 teacher,就能在尽量少算的约束下,让稀疏策略保持接近稠密策略的表现。

这个设计让 AC²-VLA 的高效框架有了可迁移性,换一个 VLA 骨干,只需要重新走一遍蒸馏流程,不需要为每个任务单独调参。

04


推理速度快了多少

AC²-VLA 基于 CogACT 构建,在 SIMPLER 仿真基准上进行了评测。SIMPLER 是当前具身智能领域常用的高保真仿真基准,旨在缩小真实世界与仿真的迁移差距。

在 Google Robot 的 Visual Matching 设定下,AC²-VLA 在四个任务上的平均成功率达到 76.8%,超过稠密基线 CogACT 的 74.8%,也超过了 RT-2-X 的 46.3%。其中 Drawer Opening 任务的成功率从 71.8% 提升到 80.6%,幅度最为明显。


效率数据更直观:计算量降低到原始模型的29.4%(FLOPs),实际推理速度提升 1.79 倍。这个 1.79 倍,在论文发表时是同类方法中的当前最优水平。


值得注意的是,这个加速并没有带来成功率的下降,反而略有提升。论文的解释是,被去掉的那部分计算大量对应于干扰项和冗余特征,移除它们反而让模型的决策更稳定。

FLOPs 降到 29.4% 而实际速度只提升 1.79 倍,两者之间的差距,于闻达解释为理论计算量与实际运行之间不可避免的开销:router 本身的运算、token 剪枝时的内存移动、缓存的查询和命中过程,这些都不完全体现在 FLOPs 里,但在实际运行时都会占用时间。因此,实际端到端加速才是更真实的参考指标。

消融实验进一步验证了三个组件各自的必要性。去掉缓存复用,成功率下降到 70.5%,速度也从 1.79 倍降到 1.66 倍;去掉层跳过,成功率跌至 67.4%;去掉 token 剪枝,速度降至 1.52 倍。三轴同时启用,才能达到最优的速度-精度平衡。


还有一个有趣的发现:在合适的缓存阈值设定下(τcache = 0.2),缓存复用不仅带来速度提升,还把成功率推到了 87.1%,超过稠密基线 12.3 个百分点。论文将这个意外收益归因于时间一致性——逐帧推理容易放大高频视觉噪声,导致动作抖动;而在动作上下文稳定时复用特征,相当于给决策过程加了一层平滑,反而让控制更稳。

05


这套框架的意义

从论文本身看,AC²-VLA 解决的是一个具体的工程问题:让 VLA 模型在不大幅牺牲成功率的前提下,快到可以用。

但它背后有一个更值得关注的思路转变——把动作从“模型输出”变成“模型计算的调度信号”

之前的高效 VLA 工作,把动作当做需要被输出的结果;AC²-VLA 第一次尝试让动作反过来指导模型该看哪里、该想多少、哪些东西可以复用。于闻达提到,这个思路其实和 VLA 模型自身的逻辑一脉相承——既然动作是终点,那用动作上下文来规划通往终点的路径,顺理成章。

团队后续还有一篇工作(Actfovea,尚未发表)沿着相同的逻辑延伸,把动作作为先验信号,往安全性和鲁棒性的方向探索:如果动作序列和视觉状态之间出现了不一致,这种不一致本身就可以用来判断当前的观测和动作是否可信,以及是否需要回退重计算。

从落地的角度看,这类工作的现实意义更直接。当前 VLA 模型的部署难点,并不总是模型不够强,更多时候是模型太慢、太重,跑不起来。边缘设备没有足够的显存,机器人没有足够的算力,工厂里的机器臂不能等上三秒才动。把一个 7B 量级的 VLA 模型压缩到可以在端侧稳定运行,是让它从实验室走向车间的必要一步。

IJCAI 2026 要来了,你还在单打独斗?

为了方便大家抱团交流、互通会议消息,我们专门建了IJCAI 2026 参会群!进群你会解锁这些「福利」

  • 会议情报站投稿 DDL、格式规范、评审进度……关键节点第一时间送达,再也不怕错过 deadline,投稿准备稳稳的。

  • 同行茶话会天南海北的同行都在群里,聊心得、碰思路、攒人脉,科研路上我们同行。

  • 前沿补给站最新研究成果、热点方向实时同步,结合会议主题帮你捋清投稿脉络,给论文灵感加满油。

  • 现场后援团:(会议期间专属开启):到了会场也不用慌——

    路线导航场馆分布、报告厅怎么走,群里随时问;

    议题共读热门 session、Keynote 现场探讨,错过也能追;

    Poster 汇编现场海报精华整理,一键收藏不遗漏;

    约局广场约饭局、采访局、交流局……想唠嗑、想合作、想面基,群里发起就成。

进群传送门:扫码进群或添加微信Qvv0909777,备注:IJCAI+ 单位/学校+姓名+方向

搞科研/搞技术,信息差很重要。

来,一起快人一步!

上车,带你看遍全球 AI 顶会精华

可独家畅览:

专家演讲PPT

大会报告全文

热门论文解读

学术新星访谈

未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!

公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
力压董宇辉登榜第一!千万网红顶流“复活”了,曾被停更3年

力压董宇辉登榜第一!千万网红顶流“复活”了,曾被停更3年

福建睿平
2026-09-23 07:09:59
富养女的福报来了!江苏一男子跟女儿说等自己老了以后送养老院就行,女儿的回复震撼在场所有人

富养女的福报来了!江苏一男子跟女儿说等自己老了以后送养老院就行,女儿的回复震撼在场所有人

火山詩话
2026-09-22 14:29:25
表姑向我借了85000元,17年没还,我去银行注销旧卡时,柜员看了眼卡说:女士,最后一笔转账留言您要看吗?

表姑向我借了85000元,17年没还,我去银行注销旧卡时,柜员看了眼卡说:女士,最后一笔转账留言您要看吗?

品读时刻
2026-09-22 09:04:55
果然不出所料!第八轮,美方主动提一个特殊请求,中方早有言在先

果然不出所料!第八轮,美方主动提一个特殊请求,中方早有言在先

你是我心中最美星空
2026-09-22 21:34:38
美专家向特朗普献计:不如舍弃台湾和钓鱼岛,换取中国大陆退出在两国投资,这一说法迅速引爆舆论讨论!

美专家向特朗普献计:不如舍弃台湾和钓鱼岛,换取中国大陆退出在两国投资,这一说法迅速引爆舆论讨论!

谈史论今1
2026-09-20 19:35:10
苹果发布史诗级更新!彻底解决 App 摇一摇广告

苹果发布史诗级更新!彻底解决 App 摇一摇广告

XCiOS俱乐部
2026-09-23 13:22:53
西方万万没想到!封锁令一出,中国反手把全球旧光刻机全买了

西方万万没想到!封锁令一出,中国反手把全球旧光刻机全买了

让心灵得以栖息
2026-09-22 16:09:43
局势反转!菲律宾紧急认账,服软降温!

局势反转!菲律宾紧急认账,服软降温!

故事终将光明磊落
2026-09-23 13:47:57
李梦“耍大牌”再上热搜,她首次回应:我没有耍大牌,也没有说难搞。当年换苹果是因为怕镜头会穿帮

李梦“耍大牌”再上热搜,她首次回应:我没有耍大牌,也没有说难搞。当年换苹果是因为怕镜头会穿帮

银河卧谈会
2026-09-23 12:23:09
夺小组头名!中国男足0-0阿联酋 携朝鲜进亚运8强 王钰栋染黄将停赛

夺小组头名!中国男足0-0阿联酋 携朝鲜进亚运8强 王钰栋染黄将停赛

我爱英超
2026-09-23 15:29:19
突发:民进党参选人邱凤英猝死

突发:民进党参选人邱凤英猝死

金牛传声
2026-09-23 10:27:13
越南国会97%票数通过,俄罗斯在边境铺中方铁轨

越南国会97%票数通过,俄罗斯在边境铺中方铁轨

奇思妙想生活家
2026-09-23 04:56:26
感人!中国男足亚运会爆发大规模冲突:张玉宁1举动令人动容

感人!中国男足亚运会爆发大规模冲突:张玉宁1举动令人动容

邱泽云
2026-09-23 16:36:08
激烈!王楚钦鏖战五局惊险获胜,林昀儒手握赛点发球失误自己笑了

激烈!王楚钦鏖战五局惊险获胜,林昀儒手握赛点发球失误自己笑了

杨哥乒乓
2026-09-23 19:40:08
亚运会最新奖牌榜:日本46枚,韩国27枚,中国运动员太让国人自豪

亚运会最新奖牌榜:日本46枚,韩国27枚,中国运动员太让国人自豪

乌克兰小静
2026-09-23 08:22:42
老子今天查着就给她死!云南这件事,暴露了多少底层人的处境?

老子今天查着就给她死!云南这件事,暴露了多少底层人的处境?

走读新生
2026-09-22 15:33:56
北约宣布已作好开战准备,目前正在增兵

北约宣布已作好开战准备,目前正在增兵

俄罗斯卫星通讯社
2026-09-21 15:08:09
中秋前后,养老金、社保和工资好消息,退休、在职和失业都受益

中秋前后,养老金、社保和工资好消息,退休、在职和失业都受益

风干迷茫人
2026-09-23 11:14:24
绝了!这是隆多儿子!2030届全美第一!

绝了!这是隆多儿子!2030届全美第一!

篮球实录
2026-09-23 02:32:29
尊重!中国女排3-0日本队夺冠后向现场日本观众鞠躬 后者鼓掌致敬

尊重!中国女排3-0日本队夺冠后向现场日本观众鞠躬 后者鼓掌致敬

念洲
2026-09-22 21:18:40
2026-09-23 21:24:49
AI科技评论 incentive-icons
AI科技评论
点评学术,服务AI
7669文章数 20785关注度
往期回顾 全部

科技要闻

一夜三款新模型,AI价格战再升级

头条要闻

网友发帖称上海一家餐厅点9瓶矿泉水收621元 店员回应

头条要闻

网友发帖称上海一家餐厅点9瓶矿泉水收621元 店员回应

体育要闻

300万英镑,他们买下了一位队史传奇

娱乐要闻

王玉雯杨玏被曝结婚又离 荒唐一幕出现

财经要闻

全市场都在卷自营

汽车要闻

性能与实用兼得 全新奥迪S5 Avant上市 57.18万元

态度原创

手机
健康
教育
旅游
军事航空

手机要闻

小米18 Pro Max手机发布:首发第六代骁龙8超级至尊版,6999元起

痘痘没成熟,千万别硬挤!

教育要闻

拯救躺平的孩子有个最简单办法:把他当“狗”养!

旅游要闻

秀我中国|层林尽染 二龙山农场尽展好风光

军事要闻

韩国最新型潜艇首次披露

无障碍浏览 进入关怀版