网易首页 > 网易号 > 正文 申请入驻

27B开源模型追平GPT-6 Astra、Claude Opus 5!UCLA×Adobe提出Tev:先造好「答案世界」,再给智能体出长程考题

0
分享至



从连续工作数小时到数天,长程智能体(long-horizon agents)正成为大模型竞争的新焦点,也被视为通往自动化科学发现乃至递归自我改进(RSI)的关键能力。但开源模型在长程任务上仍明显落后:既缺训练数据,也缺行之有效的训练配方。

近日,Adobe Research 与加州大学洛杉矶分校(UCLA)的研究团队提出Tev:构建了首个带有可验证、稠密、渐进式奖励的长程智能体训练集Tev-Gym(1,170 个环境,覆盖 7 个领域),并提出进度势能奖励塑形(PPRS)。由此训练的 Tev-27B 在 Agents' Last Exam 计算与数学领域(ALE-CM)上 Pass@5 达到 0.28,与 GPT-6 Astra、Claude Opus 5 持平;同一配方训练的 Tev-320B 则是 Terminal-Bench 4.0 计算与数学子集上最强的开源模型。



视频链接:https://mp.weixin.qq.com/s/_uR-HgnogK_xqSa9FAVUpA

  • 论文标题:Tev: Scaling Long-Horizon Agentic Environments with Dense Progress Rewards
  • 论文链接:https://arxiv.org/abs/2610.18868
  • 项目主页:https://tev-agent.github.io/



图 1:左为 Tev 在 ALE-CM 上的结果及在 Terminal-Bench 上的零样本泛化,右为潜在世界优先的数据合成流程概览。

长程智能体的两道坎:没有训练数据,也没有奖励信号

现有开源智能体语料(如 SWE-Smith、TMAX、CLI-Gym 等)动辄数千上万个环境,但每个任务只是一次 PR 级别的修复或一段简短的终端会话,前沿智能体跑完一次的中位耗时不超过 2 分钟。真正的长程任务只存在于人工编写的评测基准里:每个基准仅有几十到几百道题,每道题耗费专家数周,而且只用于评测。长程任务的训练语料至今仍是空白。

第二道坎是奖励稀疏:奖励只在任务提交时才出现。GRPO 在同一任务的 G 条 rollout 之间归一化奖励,一旦整组全部失败,优势值全为零,这组样本就白跑了。若解题概率为 p,被浪费的组占比为 (1−p) G:p = 0.05、G = 8 时为 66%,p = 0.01 时高达 92%。而这类组恰恰集中在训练初期 —— 策略最弱、最需要信号的时候。

先造 “答案”,再出题:潜在世界优先的任务合成

常见做法是让语言模型先写题目,再配输入文件和检查器,三者之间并没有一个真正的标准答案。Tev 反其道而行:先构建一个“潜在世界”(latent world)—— 对任务领域、工作流和每一步预期状态的完整、正确的隐藏规约,再从中渲染出智能体看到的环境,共分五步:

  1. 世界构建:带随机种子的生成器程序化地生成潜在世界 W(如零售仓库中的客户、商品与交易),同时抽取一份 “缺陷计划”。
  2. 工作流图:由代码把任务流程编译成有向无环图(DAG),其关键路径决定任务跨度,各阶段构成进度奖励的骨架。
  3. 产物渲染:把 W 渲染为 CSV、JSON、SQLite 等真实格式的输入文件,并保证能从中无损还原 W。
  4. 受控破坏:按缺陷计划注入 schema 漂移、重复与缺失记录等可逆缺陷。破坏后的文件就是题目,W 就是标准答案。
  5. 公开与密封:只向智能体公开任务说明,验证器与反事实测试全部密封。

任务、输入、验证器和进度奖励都源自同一个 W,从根上杜绝了三者各自看似合理、描述的却不是同一个问题的“产物漂移”



图 2:以 “零售数据仓库 ETL 修复” 环境为例的潜在世界优先合成流程:从六个月的脏零售数据中构建干净的星型 SQLite 数据仓库。

每个环境还须自动通过 8 道准入关卡(例如 14 种 “钻空子” 探针必须全部得 0 分)才能入库。最终的 Tev-Gym 包含 1,170 个环境,覆盖软件工程、数据工程、AI/CS 研究、数学与运筹、安全与取证、基础设施运维和量子计算 7 个领域。用 Gemini 3.6 Flash 实测,单次 rollout 的中位耗时为 12.4 分钟,约为此前最耗时语料的 6 倍;Pass@1 仅 29%,是所有对比语料中最难的。生成一个新环境的中位成本约为 30 秒 CPU 时间,无需调用任何模型。



表 1:Tev-Gym 与已有智能体任务语料的对比。Agent time 为 Gemini 3.6 Flash 单次 rollout 的耗时(分钟)。

让 “半成品” 也有分:进度势能奖励塑形(PPRS)

潜在世界既能给结果打分,也能给过程打分。每个环境都附带一份“进度契约”:由 DAG 导出的一组带权重和前置依赖的可检查节点。智能体每完成一轮操作,打分器就对照潜在世界检查一次工作区,加权得到进度势能 Φ(s) ∈ [0, 1]:工作推进时上升,破坏已完成的工作时下降。

PPRS 以相邻两步的势能差作为每步奖励,整条 rollout 的奖励为 R (τ) = 1 [τ 通过] + λ・Φ(sT),其中 λ = 0.25。由于 Φ ≤ 1,通过的 rollout 得分总是高于失败的 rollout;而在全部失败的组里,各条 rollout 会按推进深度拉开差距,GRPO 从训练一开始就有梯度信号。全程无需人工步骤标注、奖励模型或 LLM 裁判。



图 3:27B 模型在同一环境上的 8 条 rollout。只用终局奖励时全为 0 分;改用进度势能后,2 条提交了不完整的结果,5 条耗尽上下文,1 条完成了全部工作但未提交,组内奖励出现了差异。

实验:长程任务追平前沿模型,并零样本迁移到 Terminal-Bench

团队用 DPPO 训练 Qwen3.5-9B 与 Qwen3.8-27B,每条 rollout 最多 65,536 个 token、64 次工具调用,沙盒中只有一个 bash 工具。Tev-Gym 与所有评测集之间不共享任何 8-gram。

长程任务:ALE-CM

在 ALE-CM 的 18 个长程任务上,Tev-27B 的 Pass@5 从基座的 0.17 提升到 0.28(+65%),与 GPT-6 Astra、Claude Opus 5 持平,达到或超过 10 个前沿 API 模型中的 8 个(Claude Fable 5 与 Claude Sonnet 5 以 0.33 领先);在其中的数学与科学子集上,Pass@5 为 0.50,高于所有前沿模型的 0.38。Tev-27B 的 Pass@1 还超过了总参数量约为其 89 倍的 Qwen3.8-2.4T-A95B,Tev-9B 的 Pass@5 也较基座提升了 83%。



表 2:ALE-CM 主要结果。S@k 为平均得分,P@k 为完全解出的比例,每个任务 5 次 rollout。

零样本迁移:Terminal-Bench

Tev 从未在 Terminal-Bench 上训练。在 TB 3.0 与 TB 4.0 的计算与数学(CM)子集上(每题约需专家 8 小时),Tev-27B的 Pass@1 分别从 0.09 升至 0.14(+56%)、从 0.04 升至 0.10(2.5 倍),超过 GLM 5.2 与 Gemini 3.7 Flash;在中等长度的 TB 2.1 上,其零样本 Pass@1 达到 0.794,与 Claude Opus 4.8 相当。不过,与最强的前沿模型仍有差距:Claude Opus 5 在这两个子集上的 Pass@1 分别为 0.53 和 0.52。

同一配方用于更强的基座 GLM-5.3-Flash,得到的 Tev-320B 在这两个子集上的 Pass@1 分别从 0.20 升至 0.27、从 0.29 升至 0.37,是两个子集上最强的开源模型;在 TB 4.0-CM 上,它仅次于 Claude Opus 5、Claude Fable 5 和 GPT-5.6 (sol)。



图 4:所有模型在 Terminal-Bench 4.0 CM 子集上按 Pass@1 排名,箭头为 Tev 相对各自基座的提升。



表 3:Terminal-Bench 3.0 与 4.0 CM 子集结果。

消融:数据与奖励缺一不可

数据侧,若去掉隐藏真值、让 LLM 只根据公开文件编写验证器,训练中 88% 的采样组被丢弃;若改用 “先写题目” 式的常规合成,S@1 均未超过基座。奖励侧,PPRS 比纯终局奖励的 S@1 高 0.04,每个训练步的 GPU 时间仅为后者的 54%;到了 27B 规模,纯终局奖励几乎只产生零优势组,连一次优化器更新都无法完成。



表 4:在 ALE-CM 上的消融实验(Qwen3.5-9B)。GPU-h /step 为每个训练步折合的 H100 GPU 小时。

结语

Tev 让任务、验证器和稠密奖励都源自同一个 “先造好的答案世界”,生成器写好之后,即可按随机种子和规模档位不断产出新的已验证环境。作者也指出,目前的工作集中在合成的终端环境上,在最难的基准上与顶尖前沿智能体仍有差距,支持新的工作流也需要编写并验证新的环境组件。降低这一成本、扩展领域覆盖,并与更强的开源基座结合,是下一步的方向。

作者介绍

Wenbo Hu,UCLA 计算机科学博士生,导师为 Kai-Wei Chang 与 Nanyun Peng 教授,本文工作完成于其在 Adobe Research 实习期间。研究方向为长程智能体的环境合成与强化学习后训练,代表作有 MQT-LLaVA、OpenVLThinkerV2、G2VLM、3DLLM-Mem 等。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
江青机要秘书杨银禄晚年坦言:不管外界怎么说,有件事我一直感谢江青,做人讲求实在

江青机要秘书杨银禄晚年坦言:不管外界怎么说,有件事我一直感谢江青,做人讲求实在

磊子讲史
2026-10-22 16:54:01
不敌山西遭遇首败:上海队如意算盘落空了,拉塞尔真不如洛夫顿

不敌山西遭遇首败:上海队如意算盘落空了,拉塞尔真不如洛夫顿

姜大叔侃球
2026-10-22 21:54:10
穆里尼奥下逐客令?皇马28岁巨星坐穿板凳:年薪3167万,3场0出场

穆里尼奥下逐客令?皇马28岁巨星坐穿板凳:年薪3167万,3场0出场

小火箭爱体育
2026-10-22 14:47:50
劝告全体国人快点清醒,务请提早做足思想准备,由于国防部早已道出了实底。日本这几年加军费,不是小修小补

劝告全体国人快点清醒,务请提早做足思想准备,由于国防部早已道出了实底。日本这几年加军费,不是小修小补

扶苏聊历史
2026-10-22 10:28:32
大批美国游客从中国离开后,坦言:客观来说,中国比美国强多了

大批美国游客从中国离开后,坦言:客观来说,中国比美国强多了

浩渺青史
2026-10-22 14:48:21
公交改革来了!财政不再全部兜底,以后乘车、老年优惠会变吗?

公交改革来了!财政不再全部兜底,以后乘车、老年优惠会变吗?

混沌录
2026-10-22 22:47:13
我今年35岁,约会过50多个男人,总结出一套让男人无法自拔的方法

我今年35岁,约会过50多个男人,总结出一套让男人无法自拔的方法

千秋文化
2026-06-28 19:51:08
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
旭日旗进境外课堂,陈宇昕家境曝光,南京方面如何回应?

旭日旗进境外课堂,陈宇昕家境曝光,南京方面如何回应?

平老师666
2026-10-21 21:14:14
消息称华为获150亿元离岸贷款:自2020年以来首次获得离岸银团贷款

消息称华为获150亿元离岸贷款:自2020年以来首次获得离岸银团贷款

IT之家
2026-10-22 21:08:13
神木问界起火事件,让人们见识到了三个新名词

神木问界起火事件,让人们见识到了三个新名词

清书先生
2026-10-22 14:42:06
西藏那曲市巴青县发生7.0级地震,震源深度10千米

西藏那曲市巴青县发生7.0级地震,震源深度10千米

界面新闻
2026-10-22 22:46:34
能发10篇SCI,看 CT片子却靠“盲猜”!把论文当本事的医学界,该醒醒了!

能发10篇SCI,看 CT片子却靠“盲猜”!把论文当本事的医学界,该醒醒了!

聊斋新志
2026-10-22 17:43:57
一个利空,引发全球“黑色星期四”

一个利空,引发全球“黑色星期四”

中国基金报
2026-10-22 16:04:54
屡次成功抄底,江苏首富夫妇买对了什么

屡次成功抄底,江苏首富夫妇买对了什么

华尔街见闻官方
2026-10-22 21:33:36
“郑欣宜在沈殿霞墓前哭”冲上热搜,网友拍到郑欣宜在母亲墓前哭到无法起身、手里攥着纸巾,无人在旁陪伴

“郑欣宜在沈殿霞墓前哭”冲上热搜,网友拍到郑欣宜在母亲墓前哭到无法起身、手里攥着纸巾,无人在旁陪伴

大风新闻
2026-10-22 15:32:04
卫冕失败:中国2-3不敌日本,无缘乒乓球亚锦赛女团冠军

卫冕失败:中国2-3不敌日本,无缘乒乓球亚锦赛女团冠军

侧身凌空斩
2026-10-22 22:06:07
难怪都想当公务员,大V:山东三线城市公务员一辈子能拿到1000万收入

难怪都想当公务员,大V:山东三线城市公务员一辈子能拿到1000万收入

老郭在学习
2026-10-22 13:33:24
从奥斯陆到圣彼得堡,美俄乌欧的心理战

从奥斯陆到圣彼得堡,美俄乌欧的心理战

上观新闻
2026-10-22 14:25:40
我跑货车快20年,撞见女人穿睡裙钻进隔壁车厢,拉帘熄灯过了10多分钟,第二天她换了身红衣,我愣住了

我跑货车快20年,撞见女人穿睡裙钻进隔壁车厢,拉帘熄灯过了10多分钟,第二天她换了身红衣,我愣住了

晓艾故事汇
2026-10-18 10:18:10
2026-10-23 04:35:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14273文章数 142749关注度
往期回顾 全部

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

头条要闻

西藏7.0级地震亲历者:房子震得嘎嘎叫 不敢回家

头条要闻

西藏7.0级地震亲历者:房子震得嘎嘎叫 不敢回家

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

教育
时尚
本地
旅游
数码

教育要闻

研三秋招找工作才发现:有没有论文不重要,重要的是英语六级不能少,好多国央企都卡六级

网红老头的荤话,售价16800

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

旅游要闻

6.5米高塔菊首次亮相天坛,菊花班班长揭秘如何拿到全国金奖?

数码要闻

艺卓发布FlexScan EV2401S显示器:23.8英寸1080P 120Hz

无障碍浏览 进入关怀版