网易首页 > 网易号 > 正文 申请入驻

谷歌推出 ScientistTwo 自动科研系统,超人类 SOTA

0
分享至


来源: AGl Hunt

GOOGLE CLOUD AI RESEARCH · 2026.09 给它一篇论文,它接着做研究。 ScientistTwo 原论文 + 代码 新方法 + 新论文 系统自己跑实验、写论文,并交付可执行代码。 86 / 107 80.4% 报告取得改进的任务 成功率 每格是一道题,点亮的是 86 个成功案例。结果只 覆盖论文选取的这些问题。 题目来源 9 月 17 日提交 · 71 页 · 沿用 AutoSOTA 筛选标准 入选条件:顶会接收,有代码,可以复现。 NeurIPS 2025 33 / 38 ICLR 2026 4 / 5 ICML 2026 Spotlight 49 / 64 分子:成功任务;分母:该来源的全部题目 一套方法,要面对整套 benchmark。 数据集 A 数据集 B 数据集 C 多数据集 × 多指标;格子为评估维度示意。 LLM / 机器人 / 语音 / 时间序列 强化学习 / 博弈论 / 隐私 / 优化 科研流程 想法先拿去做实验,哪里不过关,就回去改哪里。 找局限、生成想法 子集筛选与全集实验 根据结果继续改想法 消融,查清增益来源 写稿、审稿与补实验 终审,不够好就重做 想法迭代 找局限 检查新颖性 Extractor + Verifier 最多 16 轮 Google Search 检索 2 篇参考论文 检索能帮助判断想法是否新颖,但也可能漏掉已有 研究。 先跑子集 Critic 先看子集的实验结果,再决定要不要跑全 集。 增益从哪来 TeCh 案例 5 / 6 项指标超过基线 Ablation Planner 拆开组件,检查增益来源。 写稿与审稿 PaperOrchestra 生成初稿 ScholarPeer 模拟审稿 < 8 / 10 补实验,再修改 最多 2 轮 两个 AI 审稿器 ScholarPeer 参与改稿 也参与评分 Stanford 开发时未使用 单独用于评估 两位审稿人都是 AI。它们给出的接受率,不等于 真实顶会的录用率。 两个审稿器的成绩单

ScholarPeer 系统 / 篇数 均分 接受率 AI-Researcher 7 篇 1.0 0.0% CycleResearcher 6 篇 1.0 0.0% AI Scientist-v2 3 篇 2.0 0.0% AutoResearchClaw 4 篇 2.5 0.0% Zochi 2 篇 3.0 0.0% DeepScientist 3 篇 3.0 0.0% ScientistOne 21 篇 3.8 14.3% ScientistTwo 86 篇 7.5 91.9% 分数满分 10;样本量不同,不能只看百分比。 Stanford Agentic Reviewer 系统 / 篇数 均分 接受率 AI-Researcher 7 篇 2.4 0.0% CycleResearcher 6 篇 2.8 0.0% AI Scientist-v2 3 篇 2.5 0.0% AutoResearchClaw 4 篇 3.7 0.0% Zochi 2 篇 2.9 0.0% DeepScientist 3 篇 4.1 0.0% ScientistOne 21 篇 4.1 0.0% ScientistTwo 86 篇 5.7 72.1% 分数满分 10;样本量不同,不能只看百分比。


与人类论文相比 ScholarPeer 均分 / 满分 10 ScientistTwo 7.5 ICLR 人类原论文 6.8 NeurIPS 人类原论文 6.2 Stanford 审稿器:Spotlight 组接受率 人类 Spotlight 论文 96.9% 评估 64 篇 · AI 审稿接受率 对应的 ScientistTwo 产出 69.4% 评估 49 篇 · AI 审稿接受率 在 Stanford 审稿器上,均分也高于 ICLR、 NeurIPS 原论文,但仍落后于 Spotlight。这些 都是模拟评审的结果。 平均与中位数 25.2% 平均相对提升 7.7% 中位相对提升 两项都只统计成功案例。少数提升很大的结果拉高 了平均值,不同任务用的指标也不一样。 Gemini 3.6 Flash 提取结果表 10 次,再取平均 AutoSOTA 对照 ICLR 小样本 · 中位增益 5.0% 2.2% AutoSOTA ScientistTwo 调既有代码 优化目标分数 提出方法 查清提升来源 生成完整论文 两套系统的目标、硬件和成功标准都不同,这组数 字不能直接用来判定谁更强。 再改进一轮 在增量 BPE 分词这个例子里,每次把新方法交给 下一轮继续改。提升都相对上一轮,不能简单相加。

第 1 轮 输入基线 Jiang and Gong(2026) VD-STrans +10.9% 相对上一轮的提升 论文评分 6.5 / 10 第 2 轮 输入基线 VD-STrans BXT-Transducer +9.6% 相对上一轮的提升 论文评分 5.6 / 10 第 3 轮 输入基线 BXT-Transducer SBR-Transducer +8.2% 相对上一轮的提升 论文评分 7.1 / 10


模型分工 Gemini 3.6 Flash 规划 / 生成想法 / 批评与审稿 Claude Code + Opus 4.8 实验实现 消融实验 补充实验 稿件增强 换成 Antigravity + Gemini 3.8 Flash 后 同一小样本 · 5 道题 Claude Code 4 / 5 成功案例均增益 3.8% Antigravity 3 / 5 成功案例均增益 16.7% 成功率从 80% 降至 60%,AI 审稿表现也下降 成功案例的平均提升反而更高。不过只测了 5 道 题,还不足以给编码 Agent 排名。 一题的时间与费用 33 个 NeurIPS 来源任务 Token 费用 + 虚拟机费用 时间与账单,花在了哪里?

时间分配 2.5 天 平均每题 初始想法 0.6% 初始实现 19% 想法修订 44.9% 消融分析 16.4% 初稿写作 3.6% 审稿与终审 15.5% 初始想法占比由其余标注值补足至 100%。 费用分配 $3765 平均每题 初始想法 0.2% 初始实现 20.1% 想法修订 45.4% 消融分析 15.4% 初稿写作 3.1% 审稿与终审 15.8% 初始想法占比由其余标注值补足至 100%。


9 人评审,33 篇论文 独立打分 相对人类论文 3.7 / 5 3.0 整体科学成熟度 整体打平 相对偏好:3.0 打平;越高越偏向 ScientistTwo 动机与相关工作 3.1 独立打分 4.2 / 5 方法严谨性 2.9 独立打分 4.1 / 5 基线与实验广度 3.5 独立打分 4.0 / 5 消融实验 3.3 独立打分 4.3 / 5 洞察与局限分析 3.3 独立打分 4.0 / 5 整体科学成熟度 3.0 独立打分 3.7 / 5 图示横轴 2.0–4.0;问卷完整量表为 1–5。 评审认为,人类论文的方法略严谨, ScientistTwo 的实验更全面。这里评的是 33 篇 NeurIPS 来源的生成论文。 论文与代码 CoE Integrity Audit 样本:49 篇 ICML 来源的成功产出 49 / 49 结果可复现 重新执行代码,对照报告分数 0 / 49 规格违规 检查是否违反任务规则或刷分 0 / 1814 幻觉引用 通过搜索核查参考文献 49 / 49 方法与代码一致 核对论文描述和实际实现 去掉检查之后 去掉相关修订 Agent 的消融结果 规格违规 1 / 50 0 / 49 幻觉引用 19 / 1817 0 / 1814 方法代码一致 38 / 49 49 / 49 左:缺少对应检查;右:完整系统 多完成的那道任务,因为违规被剔除了。引用要搜 索核实,方法要与代码对得上;实验阶段就得提供 可复现脚本。 这几组数字说明了什么 86 / 107 任务改进 选定问题上,有没有取得改进? 72.1% AI 审稿接受率 生成论文,在自动评估中表现如何? 49 / 49 结果可复现 审计样本的报告分数,能否复跑? 这些检查有用,但不能保证研究没有问题,也不能 代替真实的顶会审稿。 SCIENTISTTWO / 论文解读 还做不到什么 成本还是很高,典型提升没有平均值那么大,与 Spotlight 论文也还有差距。三轮自改进只来自一 个 BPE 案例,能不能一直改下去,还不知道。 项目公开了 86 篇论文。感兴趣的话,可以把论文 和代码放在一起看看。 依据:arXiv:2609.19644v1 · 图表按论文重绘 动画解释过程,不表示真实运行速度。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
29分9板9助6断,火箭5年1.85亿押对宝!范乔丹回归最大受益者诞生

29分9板9助6断,火箭5年1.85亿押对宝!范乔丹回归最大受益者诞生

锅子篮球
2026-10-27 19:00:02
这样的秦主任!放在10年前算不算得上美女?

这样的秦主任!放在10年前算不算得上美女?

放开他让wo来
2026-10-08 16:05:15
国务院定调,减缓人工智能的应用。全都是机器人了,大量人工下岗,没有工作,没有收入,谁去消费?

国务院定调,减缓人工智能的应用。全都是机器人了,大量人工下岗,没有工作,没有收入,谁去消费?

扶苏聊历史
2026-10-26 16:14:21
法国总统候选人勒庞公开表示:若我成功执政,将组建多元化民族团结政府,将法国打造成和平之国,不会将法国年轻人送上与法国无关的战场

法国总统候选人勒庞公开表示:若我成功执政,将组建多元化民族团结政府,将法国打造成和平之国,不会将法国年轻人送上与法国无关的战场

吉刻新闻
2026-10-26 08:13:21
“罕见直接接触”,外媒:芬兰总统和挪威首相与普京通话,讨论俄乌冲突

“罕见直接接触”,外媒:芬兰总统和挪威首相与普京通话,讨论俄乌冲突

环球网资讯
2026-10-27 18:40:14
一百万买一条命:判决书里,权力最大的人被隐去了名字

一百万买一条命:判决书里,权力最大的人被隐去了名字

卉姐
2026-10-27 11:50:47
金钟奖/庄凯勋泪夺视帝高喊:我是台湾演员! 3声道超暖致词感动全场

金钟奖/庄凯勋泪夺视帝高喊:我是台湾演员! 3声道超暖致词感动全场

ETtoday星光云
2026-10-26 23:51:03
终于有人敢说实话!养老金绝不允许走向“强者通吃”

终于有人敢说实话!养老金绝不允许走向“强者通吃”

笑熬浆糊111
2026-10-27 06:00:22
新加坡将提高退休年龄至65岁,网友:脸都不要了

新加坡将提高退休年龄至65岁,网友:脸都不要了

东方豪侠
2026-10-27 15:55:02
蓝色脸蛋配白色皮毛!印尼救援人员从森林大火中救出一只珍稀幼猴

蓝色脸蛋配白色皮毛!印尼救援人员从森林大火中救出一只珍稀幼猴

新京报
2026-10-26 17:10:15
甘肃2名女生花150万元开“无烟酒吧”已关闭,140平方米门店单日营收曾为0元,两人称创业失败不丢人,计划外出学习再回乡

甘肃2名女生花150万元开“无烟酒吧”已关闭,140平方米门店单日营收曾为0元,两人称创业失败不丢人,计划外出学习再回乡

大风新闻
2026-10-26 15:58:07
莫兰德60万成自由球员,上海捡的不是宝,是一个35岁中锋的止损点

莫兰德60万成自由球员,上海捡的不是宝,是一个35岁中锋的止损点

生活新鲜市
2026-10-27 09:18:11
中方:对英国警方任意过度执法行为表示强烈不满,严重关切,已向英方提出严正交涉,将全力维护中国公民人身安全和正当合法权益

中方:对英国警方任意过度执法行为表示强烈不满,严重关切,已向英方提出严正交涉,将全力维护中国公民人身安全和正当合法权益

政知新媒体
2026-10-27 15:31:40
国内女性要注意!缅北电诈再升级:能让女性上瘾,主动把500万送上门,报警也没用

国内女性要注意!缅北电诈再升级:能让女性上瘾,主动把500万送上门,报警也没用

怪味历史连连看
2026-10-27 08:30:20
国家部委工作人员张某因个人矛盾想报复同事、单位,主动投靠境外间谍情报机关,疯狂出卖重要领域国家秘密,准备叛逃时被国安机关控制

国家部委工作人员张某因个人矛盾想报复同事、单位,主动投靠境外间谍情报机关,疯狂出卖重要领域国家秘密,准备叛逃时被国安机关控制

政知新媒体
2026-10-27 08:47:40
黄景瑜拒不道歉 14 个月,法院强制执行,这事儿判得不轻

黄景瑜拒不道歉 14 个月,法院强制执行,这事儿判得不轻

观察鉴娱
2026-10-27 09:43:05
高市早苗,将成为日本有史以来最大罪人,她毁了日本几代人换来的巨大成果。她上台以来,快把日本战后八十年的老本快掏空了

高市早苗,将成为日本有史以来最大罪人,她毁了日本几代人换来的巨大成果。她上台以来,快把日本战后八十年的老本快掏空了

扶苏聊历史
2026-10-24 17:15:57
小黑姆巴佩,此生不能再入境中国

小黑姆巴佩,此生不能再入境中国

韬闻
2026-10-27 15:06:56
A股:刚刚,央行重磅发布,新的稳市工具落地!明日将迎更大转变

A股:刚刚,央行重磅发布,新的稳市工具落地!明日将迎更大转变

虎哥闲聊
2026-10-27 00:00:04
约拍女网红官宣结婚“退圈从良”,过往大量照片被扒让网友大跌眼镜

约拍女网红官宣结婚“退圈从良”,过往大量照片被扒让网友大跌眼镜

不二表姐
2026-10-27 01:51:05
2026-10-27 19:15:00
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
5126文章数 37528关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

网友称披露医生在诊室抽烟后遭私信威胁 院方:正处理

头条要闻

网友称披露医生在诊室抽烟后遭私信威胁 院方:正处理

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

30万级大六座 "豪华方盒子"魏牌二代蓝山正式亮相

态度原创

游戏
时尚
本地
手机
房产

山冈晃加上八尺夫人 这款生存恐怖游戏能有多吓人?

美商高的人都在研究这个?其实有捷径可走

本地新闻

十月奔赴迪庆,解锁梅里日照金山

手机要闻

三星也扛不住内存涨价!Galaxy A成牺牲品:少卖1000万台

房产要闻

从全国第一跌到第七!海南人,放下生娃焦虑!

无障碍浏览 进入关怀版