网易首页 > 网易号 > 正文 申请入驻

谷歌推出 ScientistTwo 自动科研系统,超人类 SOTA

0
分享至


来源: AGl Hunt

GOOGLE CLOUD AI RESEARCH · 2026.09 给它一篇论文,它接着做研究。 ScientistTwo 原论文 + 代码 新方法 + 新论文 系统自己跑实验、写论文,并交付可执行代码。 86 / 107 80.4% 报告取得改进的任务 成功率 每格是一道题,点亮的是 86 个成功案例。结果只 覆盖论文选取的这些问题。 题目来源 9 月 17 日提交 · 71 页 · 沿用 AutoSOTA 筛选标准 入选条件:顶会接收,有代码,可以复现。 NeurIPS 2025 33 / 38 ICLR 2026 4 / 5 ICML 2026 Spotlight 49 / 64 分子:成功任务;分母:该来源的全部题目 一套方法,要面对整套 benchmark。 数据集 A 数据集 B 数据集 C 多数据集 × 多指标;格子为评估维度示意。 LLM / 机器人 / 语音 / 时间序列 强化学习 / 博弈论 / 隐私 / 优化 科研流程 想法先拿去做实验,哪里不过关,就回去改哪里。 找局限、生成想法 子集筛选与全集实验 根据结果继续改想法 消融,查清增益来源 写稿、审稿与补实验 终审,不够好就重做 想法迭代 找局限 检查新颖性 Extractor + Verifier 最多 16 轮 Google Search 检索 2 篇参考论文 检索能帮助判断想法是否新颖,但也可能漏掉已有 研究。 先跑子集 Critic 先看子集的实验结果,再决定要不要跑全 集。 增益从哪来 TeCh 案例 5 / 6 项指标超过基线 Ablation Planner 拆开组件,检查增益来源。 写稿与审稿 PaperOrchestra 生成初稿 ScholarPeer 模拟审稿 < 8 / 10 补实验,再修改 最多 2 轮 两个 AI 审稿器 ScholarPeer 参与改稿 也参与评分 Stanford 开发时未使用 单独用于评估 两位审稿人都是 AI。它们给出的接受率,不等于 真实顶会的录用率。 两个审稿器的成绩单

ScholarPeer 系统 / 篇数 均分 接受率 AI-Researcher 7 篇 1.0 0.0% CycleResearcher 6 篇 1.0 0.0% AI Scientist-v2 3 篇 2.0 0.0% AutoResearchClaw 4 篇 2.5 0.0% Zochi 2 篇 3.0 0.0% DeepScientist 3 篇 3.0 0.0% ScientistOne 21 篇 3.8 14.3% ScientistTwo 86 篇 7.5 91.9% 分数满分 10;样本量不同,不能只看百分比。 Stanford Agentic Reviewer 系统 / 篇数 均分 接受率 AI-Researcher 7 篇 2.4 0.0% CycleResearcher 6 篇 2.8 0.0% AI Scientist-v2 3 篇 2.5 0.0% AutoResearchClaw 4 篇 3.7 0.0% Zochi 2 篇 2.9 0.0% DeepScientist 3 篇 4.1 0.0% ScientistOne 21 篇 4.1 0.0% ScientistTwo 86 篇 5.7 72.1% 分数满分 10;样本量不同,不能只看百分比。


与人类论文相比 ScholarPeer 均分 / 满分 10 ScientistTwo 7.5 ICLR 人类原论文 6.8 NeurIPS 人类原论文 6.2 Stanford 审稿器:Spotlight 组接受率 人类 Spotlight 论文 96.9% 评估 64 篇 · AI 审稿接受率 对应的 ScientistTwo 产出 69.4% 评估 49 篇 · AI 审稿接受率 在 Stanford 审稿器上,均分也高于 ICLR、 NeurIPS 原论文,但仍落后于 Spotlight。这些 都是模拟评审的结果。 平均与中位数 25.2% 平均相对提升 7.7% 中位相对提升 两项都只统计成功案例。少数提升很大的结果拉高 了平均值,不同任务用的指标也不一样。 Gemini 3.6 Flash 提取结果表 10 次,再取平均 AutoSOTA 对照 ICLR 小样本 · 中位增益 5.0% 2.2% AutoSOTA ScientistTwo 调既有代码 优化目标分数 提出方法 查清提升来源 生成完整论文 两套系统的目标、硬件和成功标准都不同,这组数 字不能直接用来判定谁更强。 再改进一轮 在增量 BPE 分词这个例子里,每次把新方法交给 下一轮继续改。提升都相对上一轮,不能简单相加。

第 1 轮 输入基线 Jiang and Gong(2026) VD-STrans +10.9% 相对上一轮的提升 论文评分 6.5 / 10 第 2 轮 输入基线 VD-STrans BXT-Transducer +9.6% 相对上一轮的提升 论文评分 5.6 / 10 第 3 轮 输入基线 BXT-Transducer SBR-Transducer +8.2% 相对上一轮的提升 论文评分 7.1 / 10


模型分工 Gemini 3.6 Flash 规划 / 生成想法 / 批评与审稿 Claude Code + Opus 4.8 实验实现 消融实验 补充实验 稿件增强 换成 Antigravity + Gemini 3.8 Flash 后 同一小样本 · 5 道题 Claude Code 4 / 5 成功案例均增益 3.8% Antigravity 3 / 5 成功案例均增益 16.7% 成功率从 80% 降至 60%,AI 审稿表现也下降 成功案例的平均提升反而更高。不过只测了 5 道 题,还不足以给编码 Agent 排名。 一题的时间与费用 33 个 NeurIPS 来源任务 Token 费用 + 虚拟机费用 时间与账单,花在了哪里?

时间分配 2.5 天 平均每题 初始想法 0.6% 初始实现 19% 想法修订 44.9% 消融分析 16.4% 初稿写作 3.6% 审稿与终审 15.5% 初始想法占比由其余标注值补足至 100%。 费用分配 $3765 平均每题 初始想法 0.2% 初始实现 20.1% 想法修订 45.4% 消融分析 15.4% 初稿写作 3.1% 审稿与终审 15.8% 初始想法占比由其余标注值补足至 100%。


9 人评审,33 篇论文 独立打分 相对人类论文 3.7 / 5 3.0 整体科学成熟度 整体打平 相对偏好:3.0 打平;越高越偏向 ScientistTwo 动机与相关工作 3.1 独立打分 4.2 / 5 方法严谨性 2.9 独立打分 4.1 / 5 基线与实验广度 3.5 独立打分 4.0 / 5 消融实验 3.3 独立打分 4.3 / 5 洞察与局限分析 3.3 独立打分 4.0 / 5 整体科学成熟度 3.0 独立打分 3.7 / 5 图示横轴 2.0–4.0;问卷完整量表为 1–5。 评审认为,人类论文的方法略严谨, ScientistTwo 的实验更全面。这里评的是 33 篇 NeurIPS 来源的生成论文。 论文与代码 CoE Integrity Audit 样本:49 篇 ICML 来源的成功产出 49 / 49 结果可复现 重新执行代码,对照报告分数 0 / 49 规格违规 检查是否违反任务规则或刷分 0 / 1814 幻觉引用 通过搜索核查参考文献 49 / 49 方法与代码一致 核对论文描述和实际实现 去掉检查之后 去掉相关修订 Agent 的消融结果 规格违规 1 / 50 0 / 49 幻觉引用 19 / 1817 0 / 1814 方法代码一致 38 / 49 49 / 49 左:缺少对应检查;右:完整系统 多完成的那道任务,因为违规被剔除了。引用要搜 索核实,方法要与代码对得上;实验阶段就得提供 可复现脚本。 这几组数字说明了什么 86 / 107 任务改进 选定问题上,有没有取得改进? 72.1% AI 审稿接受率 生成论文,在自动评估中表现如何? 49 / 49 结果可复现 审计样本的报告分数,能否复跑? 这些检查有用,但不能保证研究没有问题,也不能 代替真实的顶会审稿。 SCIENTISTTWO / 论文解读 还做不到什么 成本还是很高,典型提升没有平均值那么大,与 Spotlight 论文也还有差距。三轮自改进只来自一 个 BPE 案例,能不能一直改下去,还不知道。 项目公开了 86 篇论文。感兴趣的话,可以把论文 和代码放在一起看看。 依据:arXiv:2609.19644v1 · 图表按论文重绘 动画解释过程,不表示真实运行速度。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
惨!13所985高校落选!北大不在其中,南方科大成独苗

惨!13所985高校落选!北大不在其中,南方科大成独苗

史海流年号
2026-10-25 16:58:37
果然!小学生承担了催缴任务

果然!小学生承担了催缴任务

家传编辑部
2026-10-27 14:08:09
善意一旦明码标价,迟早有人嫌贵!女子带9岁儿子征婚不要彩礼只求善待,本以为是真诚,网友一句恶评直接撕开重组家庭遮羞布

善意一旦明码标价,迟早有人嫌贵!女子带9岁儿子征婚不要彩礼只求善待,本以为是真诚,网友一句恶评直接撕开重组家庭遮羞布

王老师你还好吗
2026-10-27 11:30:00
队报谈梅西金球第5:直到最后一刻,他还在犹豫是否出席颁奖礼

队报谈梅西金球第5:直到最后一刻,他还在犹豫是否出席颁奖礼

云隐南山
2026-10-27 14:59:03
姆巴佩事件升级,品牌切割只是开胃菜,官方下场,樊振东被牵连

姆巴佩事件升级,品牌切割只是开胃菜,官方下场,樊振东被牵连

秋姐居
2026-10-27 16:50:20
“手段特别残忍,罪行极其严重”,对刘某某限制减刑

“手段特别残忍,罪行极其严重”,对刘某某限制减刑

中国新闻周刊
2026-10-26 19:58:03
中日闹得再凶,钓鱼岛上那座灯塔谁都不敢碰!因为谁都明白:灯塔一碰,东海必起风波!

中日闹得再凶,钓鱼岛上那座灯塔谁都不敢碰!因为谁都明白:灯塔一碰,东海必起风波!

扶苏聊历史
2026-10-27 16:36:13
被曝藏身美国1年,恒大前总裁夏海钧再迎噩耗,肠子悔青也晚了

被曝藏身美国1年,恒大前总裁夏海钧再迎噩耗,肠子悔青也晚了

阿绐聊社会
2026-10-27 11:01:03
《嫁金钗》大结局:被红线折磨而死的魏姝,扮演者竟曾是女团门面

《嫁金钗》大结局:被红线折磨而死的魏姝,扮演者竟曾是女团门面

陈意小可爱
2026-10-27 14:31:54
如果这次股市再涨到4200点,散户绝对跑90%,因为再不会站岗了!

如果这次股市再涨到4200点,散户绝对跑90%,因为再不会站岗了!

再来一杯冰美式
2026-10-25 23:36:43
央视下场彻底封杀姆巴佩,事情闹大了!

央视下场彻底封杀姆巴佩,事情闹大了!

互联网品牌官
2026-10-27 15:46:57
国行专属功能来了!苹果正式发布 iOS 27.2 独特系统

国行专属功能来了!苹果正式发布 iOS 27.2 独特系统

XCiOS俱乐部
2026-10-27 09:52:22
最佳血压是多少?医生建议:过60岁以后,血压最好保持这标准

最佳血压是多少?医生建议:过60岁以后,血压最好保持这标准

健康科普365
2026-10-27 11:35:14
重磅:乌克兰摧毁叶列茨电池厂!风暴阴影导弹又来了

重磅:乌克兰摧毁叶列茨电池厂!风暴阴影导弹又来了

项鹏飞
2026-10-26 20:31:41
法国总统候选人勒庞公开表示:若我成功执政,将组建多元化民族团结政府,将法国打造成和平之国,不会将法国年轻人送上与法国无关的战场

法国总统候选人勒庞公开表示:若我成功执政,将组建多元化民族团结政府,将法国打造成和平之国,不会将法国年轻人送上与法国无关的战场

吉刻新闻
2026-10-26 08:13:21
2026年前三季度汽车行业利润率3.3%、单车毛利0.5万元,创历史新低

2026年前三季度汽车行业利润率3.3%、单车毛利0.5万元,创历史新低

小星球探索
2026-10-27 17:49:28
姆巴佩突遭封杀!辱华风波炸裂全网

姆巴佩突遭封杀!辱华风波炸裂全网

互联网品牌官
2026-10-27 12:56:20
央视带头封杀姆巴佩!皇马球星严重辱华,亿万国人怒不可遏,各大品牌火速解约

央视带头封杀姆巴佩!皇马球星严重辱华,亿万国人怒不可遏,各大品牌火速解约

球盲百小易
2026-10-27 17:04:04
郭富城61岁生日全家福曝光!1岁小女儿被爸爸抱在怀里呆萌亮相

郭富城61岁生日全家福曝光!1岁小女儿被爸爸抱在怀里呆萌亮相

韩小娱
2026-10-27 09:55:39
尾盘,突发!股民:看不懂,想不通

尾盘,突发!股民:看不懂,想不通

中国基金报
2026-10-27 16:12:44
2026-10-27 18:12:49
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
5126文章数 37528关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

大搞利益交换 副部级"内鬼"王会民受贿4.36亿被判死缓

头条要闻

大搞利益交换 副部级"内鬼"王会民受贿4.36亿被判死缓

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

油耗更低、尺寸更大 第三代秦PLUS DM-i上市7.69万起

态度原创

本地
健康
数码
时尚
公开课

本地新闻

十月奔赴迪庆,解锁梅里日照金山

查不出猝死风险?可能是项目没做对

数码要闻

华硕推出TUF Gaming Radeon RX 9070 XT《鬼武者:剑之道》特别版显卡:蓝金外观,附赠游戏兑换码

美商高的人都在研究这个?其实有捷径可走

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版