网易首页 > 网易号 > 正文 申请入驻

Sai智能体在OSWorld 2.0基准测试中取得73%成功率,成本为竞品2/3

0
分享至


人工智能

Simular开发的计算机智能体Sai在OSWorld 2.0基准测试中取得了73%的成功率。该评级基于108项任务的测试集,专门评估日常工作中耗时较长的专业任务——这类任务通常需要有经验的人类工作者花费一个小时以上才能完成。

Simular表示,Sai的这一最优性能使其超越了OpenAI报告的GPT-5.6 Sol(62.57%)和Anthropic报告的Opus 5(70.57%),而实现这一成绩的成本仅为两者的约三分之二。

Sai的设计目标并非为了在行业评测中刷榜,而是专注于解决真实工作场景中的任务,能够在完整的桌面应用和网页上操作、调用API并编写代码。

这款智能体融合了前沿通用模型与专业模型,通过专用接口感知并操作用户的计算机,以公司承诺的"个人和企业均可承受的价格"执行复杂的真实任务。

专为日常必要工作而生的计算机智能体

Simular联合创始人兼CTO杨家晨告诉The New Stack,他认为,为所有人日常必要工作(如招聘外联、发票核验、新闻资讯研究)而设计的计算机智能体,不应该仅仅因为"底层模型是为了解决人类尚未攻克的数学猜想"而变得价格高不可攀。

"后人会觉得现在还有人这样构建模型是件荒唐的事,"杨家晨说,"Sai在OSWorld 2.0上实现的最优性价比,是迈向未来的一步——在那个未来,我们不必为了把工作做好而付出天价。"

Simular于今年3月首次发布Sai。这家总部位于帕洛阿尔托的公司自称是"以研究为导向的智能体创业公司",由前DeepMind科学家李昂(CEO)和杨家晨(CTO)联合创办。

公司采用神经符号方法,即将神经网络灵活的探索能力与符号代码的精确性相结合。这意味着已解决的任务可以被编码为可复用的代码,每次以相同方式执行。其核心逻辑简单而直接:处理第一百张发票的成本不必和处理第一张一样高。

OSWorld 2.0基准测试是什么?

OSWorld 2.0由香港大学HKU NLP小组旗下的可执行语言接地(XLANG)实验室于6月26日发布,并于8月8日更新。与第一版相比,OSWorld 2.0已超越简短的桌面操作评测范畴。Simular提醒大家,其开源智能体Agent S是去年12月首个在OSWorld 1.0上超越人类基准水平的。

针对Sai的测试结果尚未出现在OSWorld 2.0官网排行榜的疑问,Simular解释称:"企业或机构优先在自家网站发布基准测试结果并不罕见(参见Anthropic和OpenAI的做法)。我们正在向OSWorld 2.0排行榜提交结果,同时也在将轨迹数据上传至Hugging Face。"

与OSWorld 1.0不同,OSWorld 2.0的任务计时单位从分钟升级为小时,涵盖了真实工作挑战:跨多个数据源查找与推理(如分散在邮件和报销单中的票据)、响应动态环境变化(如任务执行中途收到一条消息)、精确遵循操作指南(如报销规定),以及排查信息差异(如数据相互矛盾)。

Simular团队认为,OSWorld 2.0目前是业内最严格的开放基准测试,也最能反映真实工作场景。

杨家晨团队解释,Sai之所以能实现更优的性价比,得益于前述的神经符号规划方式。具体而言,Sai平均比纯模型方案少调用约1.5倍的模型接口——它每轮可执行更多操作,并使用Simulang代码(一种用于macOS桌面自动化的Claude Code技能)作为规划和执行较长子任务的符号语言。

Sai如何实现工程效率优化?

在缓存和内存效率方面,Sai通过自适应摘要(一种动态内存管理技术,用于保持模型上下文窗口精简)控制输入规模,并尽量长时间维持固定的提示前缀,减少摘要频率。代码规划还让Sai在整个任务执行过程中,将关键任务信息保存并访问于运行时内存中。

在模型编排方面,Sai会针对界面元素定位、纯推理、结果验证等具体步骤调用专用模型和接口,避免对不需要全部任务上下文的步骤使用高成本模型。

在一项测试中,Sai、Sol和Opus被要求在OSWorld 2.0上玩Chrome小恐龙游戏,并在真实页面上完成目标分数。Sai将这个重复性的实时游戏视为编程问题而非点击问题:它从原始像素中测量地面线、障碍物速度和自身输入延迟,随后编写了一个捕获屏幕、检测障碍物并执行跳跃的控制循环,通过单次调用在虚拟机上运行。

此外,三款智能体还参与了OSWorld 2.0的第28项任务"疫苗预约":根据一封关于所需接种疫苗的邮件、桌面上的接种记录扫描件,以及含有价格、距离和日期限制的预约网站,完成整个预约流程。

开发者如何看待Sai?

机器学习计算机科学家圣地亚哥·瓦尔达拉马是Sai的支持者,他在LinkedIn上写道:"由于Sai运行在完整的桌面环境而非仅限于浏览器或API,它能够处理那些拦截标准自动化操作的应用程序,这开启了大多数智能体无法触及的全新任务类别。"

AI营收系统专家巴尔金德·拉利的评价则更为持平,他表示Sai的表现"与我在构建智能体工作流时的亲身体验相符",但同时提醒道:"演示效果固然亮眼,但真正的可靠性来自安全护栏、可见性和人工介入的检查节点。"

AgenticMode AI创始人贾汉扎伊布·A.持有类似看法。他表示自己在语音智能体上也遇到过相同的可靠性问题——"演示时无懈可击,但在生产环境中遇到没人预料到的边缘案例时却悄无声息地失败了。可观测性才是关键——没有它,你只是在盲目调试。"

智能体领域的实用主义者

Simular坚持其研究立足于具有经济价值的实际工作,而非追求演示效果。公司表示,这意味着团队深刻理解"计算机智能体的完整技术栈",包括模型本身、规划与接地、脚本层、智能体运行的虚拟机以及用户界面。

公司的核心理念是"Sai面向所有人,而非只是实验室成果"——这折射出一批新兴模型的发展方向:专注于可落地、可交付的职场任务,而非参与一场以算力、吞吐量和分析指标为目标的军备竞赛。

Q&A

Q1:Sai智能体在OSWorld 2.0上的成绩如何,与GPT-5.6 Sol和Opus 5相比怎么样?

A:Sai在OSWorld 2.0的108项任务测试中取得了73%的成功率,超过了OpenAI的GPT-5.6 Sol(62.57%)和Anthropic的Opus 5(70.57%),且实现这一成绩的成本仅为两者的约三分之二。

Q2:Sai为什么能以更低成本完成任务?

A:Sai采用了神经符号规划方法,将神经网络的灵活性与符号代码的精确性相结合。已完成的任务可被编码为可复用代码,实现重复执行。此外,Sai通过自适应摘要控制上下文窗口大小,并针对不同子任务调用专用模型,平均比纯模型方案少调用约1.5倍的接口,从而大幅降低成本。

Q3:OSWorld 2.0和OSWorld 1.0有什么区别?

A:OSWorld 2.0由香港大学XLANG实验室推出,相比第一版,它不再评估简短的桌面操作,而是专注于耗时以"小时"计算的复杂真实任务,涵盖跨数据源推理、响应动态环境变化、遵循操作指南及排查信息矛盾等场景,被Simular团队认为是目前业内最贴近真实工作场景的开放基准测试。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
卡茨:“我们的战机已准备好随时起飞”

卡茨:“我们的战机已准备好随时起飞”

鲁中晨报
2026-09-02 22:06:10
吉隆口岸灾害:希望挖出活着的奇迹,若无奇迹愿不要挖出一具遗体

吉隆口岸灾害:希望挖出活着的奇迹,若无奇迹愿不要挖出一具遗体

胡言炫语
2026-09-03 00:45:18
赛力斯问界销量近乎腰斩,“遥遥领先”为何卖不动了?

赛力斯问界销量近乎腰斩,“遥遥领先”为何卖不动了?

大厂财经社
2026-09-02 13:22:05
离谱!苏州一初中被曝初一有96个班,共5000多名学生,官方紧急回应,评论区一片担忧!

离谱!苏州一初中被曝初一有96个班,共5000多名学生,官方紧急回应,评论区一片担忧!

谭谈社会
2026-09-02 17:03:37
大量美军死伤!伊朗发起猛烈反击,特朗普:把他们从地球上抹去

大量美军死伤!伊朗发起猛烈反击,特朗普:把他们从地球上抹去

大国之翼
2026-09-02 06:31:38
医保“毁约”成定局?人民日报发声,个人账户的钱究竟归谁

医保“毁约”成定局?人民日报发声,个人账户的钱究竟归谁

天气观察站
2026-09-03 07:08:18
英国赛16强出8席!8位世界冠军出局,中国还剩6人赵心童vs霍尔特

英国赛16强出8席!8位世界冠军出局,中国还剩6人赵心童vs霍尔特

球场没跑道
2026-09-03 08:48:22
中俄永久免签意味着什么?

中俄永久免签意味着什么?

凤眼论
2026-09-02 19:47:16
字母哥三兄弟全留希腊联赛,NBA再无字母家族

字母哥三兄弟全留希腊联赛,NBA再无字母家族

热血体育社
2026-09-02 08:33:15
机务闯大祸!加油车未拔油管就开走 国航747-8客机被扯坏加油口 狂撒一地燃油

机务闯大祸!加油车未拔油管就开走 国航747-8客机被扯坏加油口 狂撒一地燃油

中国能源网
2026-09-02 17:20:06
本想抹黑中国,自己却被扒了个精光!

本想抹黑中国,自己却被扒了个精光!

环球时报国际
2026-09-03 07:53:14
江西男子地摊随手买一本书,4年后卖了2600万,买家是南京图书馆

江西男子地摊随手买一本书,4年后卖了2600万,买家是南京图书馆

收藏大视界
2026-09-02 19:47:40
朱女士哭了!第 8 次重婚自诉败诉,理由:没有事实依据,网友:该止损了!

朱女士哭了!第 8 次重婚自诉败诉,理由:没有事实依据,网友:该止损了!

川渝视觉
2026-09-03 08:58:53
景甜事件炸裂后续!孙宇晨2019年聊天曝光,代孕搞"三权分立"防女方架空,原来是早有预谋?

景甜事件炸裂后续!孙宇晨2019年聊天曝光,代孕搞"三权分立"防女方架空,原来是早有预谋?

可达鸭面面观
2026-09-02 18:32:18
欧盟市场留给我们的窗口期只剩下16个月。

欧盟市场留给我们的窗口期只剩下16个月。

流苏晚晴
2026-09-02 19:04:44
9月3日,2026年调整退休人员养老金的通知正式公布了吗?哪些人有机会增加待遇?

9月3日,2026年调整退休人员养老金的通知正式公布了吗?哪些人有机会增加待遇?

小谈食刻美食
2026-09-03 08:26:22
微信上线两项“防遗漏”新功能:未读消息一键查看,红包转账不再忘领

微信上线两项“防遗漏”新功能:未读消息一键查看,红包转账不再忘领

TechWeb
2026-09-03 09:55:02
致敬队长!阿根廷宣布下轮所有赛事在第10分钟暂停 为梅西鼓掌1分钟

致敬队长!阿根廷宣布下轮所有赛事在第10分钟暂停 为梅西鼓掌1分钟

我爱英超
2026-09-03 05:57:59
后续来了!那个叫嚣“我就是违法,你去告啊”的HR,被00后一夜治服了

后续来了!那个叫嚣“我就是违法,你去告啊”的HR,被00后一夜治服了

小徐讲八卦
2026-09-01 08:18:51
2013年,因停车收费问题,28岁的杨雪鸥驾驶牧马人越野车撞死停车管理员

2013年,因停车收费问题,28岁的杨雪鸥驾驶牧马人越野车撞死停车管理员

法网恢恢
2026-09-02 21:47:30
2026-09-03 10:55:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
21491文章数 49729关注度
往期回顾 全部

科技要闻

大模型扎堆!谷歌刚发,Meta就跟上

头条要闻

反华"藏独"组织抹黑中国泥石流救灾工作 反被扒个精光

头条要闻

反华"藏独"组织抹黑中国泥石流救灾工作 反被扒个精光

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

德云社停更20天再营业!

财经要闻

星宇股份的麻烦,才刚开始

汽车要闻

配双腔空悬+机械差速锁 传祺越7预售权益价17.18万起

态度原创

手机
游戏
本地
数码
健康

手机要闻

三星Galaxy S27系列手机壳曝光,Pro/Ultra启用矩阵后摄单元

外媒试玩《无限大》:真正让人玩得开心的开放世界!

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

数码要闻

索尼WH-CH730N和WH-CH530耳机爆料:9月7日推出

越吃越爆痘?医生讲清7大真相

无障碍浏览 进入关怀版