网易首页 > 网易号 > 正文 申请入驻

100万道实战题,还得防AI作弊!320B国产基模技术细节揭秘

0
分享至


新智元报道


还记得9月底,我们拉着IQuest-Q1做的那几场实测吗?

6个路口的早高峰,给它管;双11仓库里8台搬运机器人的调度,交给它;24层写字楼的电梯调度,也让它试了一遍。

我们还让它写前端、做游戏,看看一个320B的开源大模型,到底能把多少事情真正做起来。

那篇文章发出后,一个问题其实还没讲透:

能在复杂环境里连续干活的基础模型,究竟是怎么练出来的?

现在,这个问题终于有了更完整的答案。

就在今天,至知创新研究院(IQuest Research)公开了IQuest-Q1的完整技术报告《IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems》。

模型还是我们此前关注的那匹开源「黑马」:

320B总参数、15B激活参数,重点面向代码开发、命令行交互和复杂Agent任务。

不过,这次值得关注的,已经不只是模型会做什么了。

新公开的技术报告,给出了30项Benchmark成绩,还把不少训练细节摆到了台面上。


Benchmark成绩

对照模型包括Claude Opus 5、GPT-5.6 Sol等。而我们更感兴趣的,是这些成绩背后的技术投入:

29T Tokens、超过100万个可执行任务实例、1.93×的架构规模化效率,还有一套专门防止模型「作弊」的训练机制。

从9月底的实测,到如今的完整技术报告,IQuest-Q1终于把更多底牌亮了出来。

这次,我们就来拆拆它。

从写代码到跨系统干活

基模正在接受新的考验

此次技术报告公布了30项评测结果,涵盖代码生成、软件工程、终端操作、工具使用、复杂工作流以及通用推理等多个方向。

其中,AutomationBench与τ³-Banking的成绩非常值得多看几眼。

AutomationBench关注跨应用自动化能力。模型需要在不同系统之间调用工具、完成操作,并在多步骤执行过程中保持任务状态和约束。

τ³-Banking则引入复杂服务业务场景,考察智能体理解业务规则、调用工具和完成多轮任务的能力。

这些任务有一个共同特点:完成某个操作只是其中一步,模型还得让整个流程顺利走下去。

IQuest-Q1在两项评测中分别取得52.7和51.8分,均位居报告列示的对照模型首位。

此外,在SkillsBench、MCP-Atlas和Toolathlon-Verified上,模型分别取得74.1、78.4和75.0分,覆盖技能使用、工具接口理解及外部工具调用等能力。

在Claw-Eval和IQuest-CLIBench上,模型分别取得77.1和53.7分。

其中,IQuest-CLIBench是至知团队设计的内部评测,通过用户交互模拟、执行轨迹和环境状态检查,进一步考察CLI Agent的任务完成与交互表现。


Benchmark成绩

至于此前开源时重点展示的代码能力,IQuest-Q1在NL2Repo-Bench和CyberGym上分别取得63.0和84.5分。

BrowseComp 85.5、WideSearch 81.8、GPQA Diamond 93.3等成绩,也进一步展示了模型在信息搜索和知识推理方面的能力。

整体看下来,这次报告补充了更多复杂工作流和工具使用方面的评测证据。

当然,Benchmark还不能回答真实应用中的所有问题。面对更复杂、更开放的环境,模型仍然可能出错,也可能需要人工介入。

但至少,我们可以进一步追问:这些能力,究竟是怎样「炼」出来的?

给模型准备100万道「实战题」

还要防它作弊

如果说训练一个代码模型,需要让它阅读和理解大量代码,那么训练一个能够独立执行任务的Agent基础模型,就得让它真正进入环境里做事。

写完代码,要运行。

运行出错,要排查。

调用工具返回了意料之外的结果,还得继续调整方案。


整个过程是连续的,并且会不断产生新的状态。模型必须学会处理这些连续发生的情况,并且如果出现了错误,模型也需要从这些反馈里学习。

IQuest-Q1技术报告披露,团队从代码仓库和已有智能体轨迹出发,构建了超过100万个可执行、容器化的任务实例。

这些任务涉及软件工程、终端操作、代码理解与测试、程序生成、网络安全和专业工作等多个领域,并配套相应的执行环境与验证方式。


智能体训练任务与验证体系

模型在任务环境中执行操作,系统再筛选有效、完整的执行轨迹,将其用于中期训练。

但环境越来越真实,另一个问题随之出现。

基础模型也会寻找捷径。

例如,在代码修复任务中,智能体可能通过查找已有答案、读取隐藏测试,甚至修改评测脚本获得奖励。

从评分结果看,任务似乎完成了;实际上,模型可能并没有解决原本的问题。

在强化学习中,这类现象被称为Reward Hacking(奖励作弊)。

为此,至知团队建立了三层防护机制:

• 环境准备:清理可能泄露答案的代码历史与参考文件,隔离任务环境。

• 执行时检查:限制模型访问隐藏测试、已有解决方案等不应获取的资源。

• 轨迹审计:检查实际执行的命令、工具输出与提交结果,剔除确认存在作弊行为的轨迹。

这套机制旨在提高奖励反馈与真实任务完成情况的一致性。

训练环境之外,IQuest-Q1还需要适应不同Agent工具的工作方式。

在后训练阶段,团队围绕Claude Code、Codex等执行框架开展训练,结合监督微调、领域强化学习与多教师在线策略蒸馏(MOPD),增强模型对不同工具接口和交互流程的适应能力。

四类专业教师模型分别覆盖终端交互体验、多执行框架适应、长程代码与网络安全任务,以及通用智能体能力。


后训练流程

对于CLI 模型而言,能否稳定地理解工具、处理反馈并完成任务,正在成为基础能力的重要组成部分。

训练320B模型

如何把计算效率提升1.93倍?

除此之外,技术报告还披露了IQuest-Q1在基础模型架构上的一组实验结果:

1.93×。

这是团队在规模化效率对照实验中得到的结果。

在使用相同训练数据的条件下,与Qwen3-30B-A3B配置的MoE风格基线相比,IQuest-Q1模型达到相同训练损失所需的计算量约为基线的52%。


规模化效率与稳定性实验

需要注意,这一结果来自受控架构实验,衡量的是达到相同训练损失所需的计算量,并不直接等同于完整320B模型的实际训练成本。

那么,它背后有哪些设计?

IQuest-Q1采用320B总参数、15B激活参数的稀疏MoE架构。

模型包含88层Transformer,每个MoE层设置256个路由专家,每个Token激活8个。

注意力机制结合分组查询注意力与滑动窗口注意力,中间层采用每3层滑动窗口注意力搭配1层全注意力的结构。


IQuest-Q1整体模型架构

在优化方法上,团队采用Stable SplitNorm、Muon优化器与μP参数化,并通过小规模代理模型研究学习率迁移,改善大规模训练的效率和稳定性。

技术报告还引入Critical Model Size(CMS)指标,通过分析最优学习率和安全学习率之间的关系,研究模型在更大规模下的训练稳定性边界。

而这些架构设计,最终要承载庞大的训练任务。

报告显示,IQuest-Q1的预训练与中期训练累计使用约29T Tokens。

预训练阶段,代码数据比例由40%逐步提升至70%;中期训练进一步引入推理问答与智能体执行轨迹,并分阶段将最大训练上下文长度扩展至32K、128K和512K Tokens。

长上下文之外,团队还采用了一个有意思的推理设计:Recursive MTP(递归式多Token预测)。

模型在预训练时引入两个MTP层,之后将其中一层改造为递归草稿生成模块。

通过复用同一个MTP模块,系统能够在固定参数预算下生成多个后续候选Token,为投机解码提供支持。

此外,递归模块采用更小窗口的滑动窗口注意力,以限制长上下文条件下每一步预测的计算开销。


递归式多Token预测示意

从架构训练到推理执行,围绕计算效率问题,IQuest-Q1团队确实在多个环节进行了精心设计。

比跑分更难的

是把事干到底

看完这份技术报告,再回头看我们上次让IQuest-Q1调度红绿灯、仓库机器人和电梯的实测,就更能理解一件事:

让模型持续完成复杂任务,确实没那么简单。

百万级可执行任务、多框架强化学习、防奖励作弊、长上下文推理……这些看似分散的技术设计,其实都在解决任务实际执行中可能遇到的问题。

报告里还有个有意思的细节。

在一次工具调用能力优化实验中,基于IQuest-Q1的智能体追查了6054次工具调用记录,发现训练数据过度集中于单一工具调用格式,部分工具定义与参数也存在不匹配。

随后,它提出数据清洗与增强方案,并在人工审核后参与后续训练准备。

连训练中遇到的问题,也开始尝试交给模型自己来排查了。


从技术报告里可以看到,研发团队是从预训练做起,跑通了完整的研发路径,而不是基于其他模型微调而来的。

这对于一家成立时间不长的机构来说,可见其在此方向发力的决心。

无论是模型后续表现,还是至知研究院的后续发展,它的成长性是值得期待的。

当然,技术报告能解释模型是怎么训练的,却无法替代真实环境中的检验。

毕竟,Benchmark上的高分只是一场考试。工具突然报错、任务越跑越长、环境不断变化,才是模型真正要面对的考场。

上次,我们看到了IQuest-Q1能干什么。

这次,知道了它是怎么「炼」出来的。

至于下一次,不妨把难度再往上加一点。


参考资料:

技术报告:https://arxiv.org/pdf/2610.30949

Blog:https://iquestlab.github.io/

Hugging Face:https://huggingface.co/IQuestLab/IQuest-Q1

GitHub:https://github.com/IQuestLab/IQuest-Q1

编辑:元宇

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄罗斯媒体确认了:俄罗斯总统普京已明确表示,俄罗斯已通知美国,准备恢复乌克兰问题三边谈判

俄罗斯媒体确认了:俄罗斯总统普京已明确表示,俄罗斯已通知美国,准备恢复乌克兰问题三边谈判

吉刻新闻
2026-10-23 13:25:56
消费者反映: 在星巴克开会 90 分钟 被提醒点单 5 次 消保委回应

消费者反映: 在星巴克开会 90 分钟 被提醒点单 5 次 消保委回应

每日经济新闻
2026-10-23 14:57:20
九旬老人退休金被大女儿领走,房产被另外两个女儿变卖,自己却被拦在家门外,在楼道睡了近一年…

九旬老人退休金被大女儿领走,房产被另外两个女儿变卖,自己却被拦在家门外,在楼道睡了近一年…

天涯社区
2026-10-23 18:35:46
红果短剧全面下线,2亿用户天塌了

红果短剧全面下线,2亿用户天塌了

首席品牌观察
2026-10-23 15:45:29
雷霆逆转掘金SGA连续20+场次终结,约基奇穆雷30投7中合取19分

雷霆逆转掘金SGA连续20+场次终结,约基奇穆雷30投7中合取19分

湖人崛起
2026-10-23 12:19:53
地铁站内看书5个小时女子出站时被扣15元,官方回应:设有270分钟乘车时限,超时须补交最高票价

地铁站内看书5个小时女子出站时被扣15元,官方回应:设有270分钟乘车时限,超时须补交最高票价

每日经济新闻
2026-10-22 17:17:44
“在星巴克开会1小时被提醒点单5次”冲上热搜,消费者表示反复打扰让人困扰,消保委:“消费入座”属基本商业规则

“在星巴克开会1小时被提醒点单5次”冲上热搜,消费者表示反复打扰让人困扰,消保委:“消费入座”属基本商业规则

扬子晚报
2026-10-23 14:49:55
神木问界事故舆论升级!搜狐汽车微博遭15天禁言,“视频是从哪来的”成舆论焦点

神木问界事故舆论升级!搜狐汽车微博遭15天禁言,“视频是从哪来的”成舆论焦点

火山詩话
2026-10-23 13:19:53
三省党委领导班子有调整,两位市委书记履新职

三省党委领导班子有调整,两位市委书记履新职

上观新闻
2026-10-23 18:22:18
死了也不能安宁!前妻独自葬在美国,李昌钰被二婚妻子硬带回江苏

死了也不能安宁!前妻独自葬在美国,李昌钰被二婚妻子硬带回江苏

枫尘余往逝
2026-10-22 14:25:57
3战全胜一盘未失!孙心然横扫澳网青少年冠军,锁定总决赛四强席位

3战全胜一盘未失!孙心然横扫澳网青少年冠军,锁定总决赛四强席位

全景体育V
2026-10-23 15:20:49
冠军拿到手软,中国星凭什么?

冠军拿到手软,中国星凭什么?

大众侃车
2026-10-23 17:49:08
今天 10 月 23 日,全体退休人员注意:10 月养老金发放,必查三项!

今天 10 月 23 日,全体退休人员注意:10 月养老金发放,必查三项!

白昼说故事
2026-10-23 11:33:38
江青机要秘书杨银禄晚年坦言:不管外界怎么说,有件事我一直感谢江青,做人讲求实在

江青机要秘书杨银禄晚年坦言:不管外界怎么说,有件事我一直感谢江青,做人讲求实在

磊子讲史
2026-10-22 16:54:01
南宁舰疑似搁浅!曾执行南沙巡逻任务,功勋老舰保护需加大力度

南宁舰疑似搁浅!曾执行南沙巡逻任务,功勋老舰保护需加大力度

装甲铲史官
2026-10-23 14:50:28
曾“逼马云退位”的浙商新贵,被抓了

曾“逼马云退位”的浙商新贵,被抓了

大猫财经Pro
2026-10-23 15:28:19
淮北市委书记蒋曦当选安徽省委常委

淮北市委书记蒋曦当选安徽省委常委

大风新闻
2026-10-23 14:15:14
刚刚,全球互联网已被AI攻陷!史上最黑暗48小时来了

刚刚,全球互联网已被AI攻陷!史上最黑暗48小时来了

新智元
2026-10-23 03:15:00
前三季度全国财政收入同比增长5.1%

前三季度全国财政收入同比增长5.1%

界面新闻
2026-10-23 15:09:09
三门峡市委书记徐相锋当选河南省委常委

三门峡市委书记徐相锋当选河南省委常委

澎湃新闻
2026-10-23 19:24:27
2026-10-23 21:36:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16500文章数 67186关注度
往期回顾 全部

科技要闻

抢运营商饭碗!马斯克又有大动作

头条要闻

以总理还原邀特朗普对伊动武细节:你不来 我们自己炸

头条要闻

以总理还原邀特朗普对伊动武细节:你不来 我们自己炸

体育要闻

没人看好的加图索,打出队史最佳开局

娱乐要闻

黎纪君晒与刘恺威合照 恋情后首次同框

财经要闻

叫"保障"不叫"保险":租车平台的文字游戏

汽车要闻

全球首款增程越野皮卡 长安猎手K70上市19.29万元起

态度原创

本地
旅游
时尚
教育
公开课

本地新闻

这么近,那么美,周末赴贺州丨大湾区后花园

旅游要闻

长征路上学党史丨古镇哈达铺迎红色旅游热

衬衫专场|| 入秋以来最爱穿这件,怎么搭都好美

教育要闻

休学率五年暴涨240%!教育局官方回复休学流程!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版