网易首页 > 网易号 > 正文 申请入驻

Browser Use 原理解析 - 为什么一个小项目能融1700万美元

0
分享至

Browser Use 成为近期的明星项目,两个人的纯技术开源项目,核心代码 8000 行,融资 1700 万美元,让人好奇它具体做了什么,为什么这么值钱。


做了什么?

简单说 Browser Use 让大语言模型对网页的识别和操作的效率、准确度变高了,有利于 Agent 完成任务。

目前要让 AI Agent 完成任务,可以直接让 AI 浏览网页,像人一样去理解页面,执行操作,之前一般的做法主要靠截屏:

  1. Anthropic 的 Computer use、OpenAI 的 Operator 等理解和操作 web 页面,都是靠多模态大模型识别截屏,再输出要操作的坐标位置,Agent 执行操作。

  2. 在这过程中,web 的源码也可以加入上下文,让模型获得更多信息,但 web 源码内容太多,信息噪音太大,token 消耗也高。

而 Browser User 的做法是对 web 页面做了结构化处理,翻译成大模型友好的格式,再输入 LLM 识别。举例 Google 首页:

1. Browser Use 会在页面上嵌入脚本,遍历 DOM 结构,找出页面上的元素,显式打上标记:


2. 转换为以下纯文本:

[Start of page] [1]Gmail/> [2]图片/> [3] [4] [5] [6] [7] [8] [9] [10] [11] [12] [13] [14] [15] [16] [17] [18] [19] [20] [21] [22] [23] [End of page]

内容格式极简,关键信息都有,提取了所有可交互元素,模型完全可以通过这些信息“看”和“操作”网页。

例如要执行搜索,模型很容易判断搜索框是索引为[8]的元素,Agent只需要把元素[8]对应的 XPath 拿出来,获取到页面上对应的元素,执行操作就可以。

所以 Browser Use 使用非多模态的模型例如 Deepseek 也可以跑起来,不依赖截图识别。但如果是多模态模型,截图也默认会一起输入模型,提升识别准确率。

Browser Use 核心就是做了这个点,剩下的就是怎样把流程串起来。

实现细节

核心代码包括四个部分:agent 负责决策和串流程,controller 负责转换决策为具体操作,dom 负责网页分析,browser 负责与实际浏览器交互。

1. agent:实现了个小型 AI Agent,负责串起流程,管理上下文信息,决策生成下一步指令,让 Browser Use 可以一步步完整执行一个任务(例如购买机票),这也让 Browser Use 变成易于集成为 Agent

  • service.py 实现了典型的 Agent 的 ReAct 模式,推理 → 执行步骤 → 模型观察结果下一步。可单独配置 plan 模型。

  • message_manager 管理消息历史,并做了一些类似敏感数据过滤、图片内容处理等。

  • memory 实现记忆功能,基于mem0,但目前应该只实现了一半,只把每步存起来,没有调取使用。

2. controller:负责控制和执行浏览器操作的高级指令,是连接AI代理和浏览器操作的桥梁。

  • registry/ 实现了 Action 的注册和管理能力

  • service.py 定义和注册了所有可用的浏览器 Action,click/go_to_url/input_text等。

3. dom:对 web 页面的处理和分析,生成上述 AI 友好的文本结构。

  • buildDomTree.js 是嵌入页面的 JS 脚本,遍历 dom 过滤出可交互元素,绘制高亮框等。

  • service.py 操作 JS 注入、节点信息获取、跨域处理等能力,views.py 提供 DOM 节点在 python 的数据模型。

4. browser:对接 Playwright,在它上面封装了一些能力。

  • context.py 管理浏览器上下文,以及一些细节功能处理,像标签页/导航管理、截图、定位和获取元素、URL白名单检测、文件下载处理等。

  • browser.py 封装了浏览器实例的创建和配置。

它也用到了很多开源项目和服务,值得看看:

  1. Playwright:微软开发的 web 自动化测试框架,核心是提供了用代码命令操作浏览器的能力,这能力刚好是 AI Agent 需要的,Browser Use 只需要基于它做上层开发。如果只需要浏览器的能力,官方也有封装的 MCP 服务(github.com/microsoft/playwright-mcp)

  2. LangChain:Agent 基于 LangChain 构造,主要用到模型调用和 message 管理。

  3. Laminar:trace / 评估 AI 产品的服务,Laminar 对 LangChain / OpenAISDK 等框架做好了适配,加一行代码就可以对 Browser Use 整个 Session 调用链路调用过程进行追踪和评估。Laminar 跟 Browser User 一样也是 YC 初创公司,开源→服务的打法。跟另一个项目 openllmetry 类似,都是基于 OpenTelemetry 做 AI 的监控分析工具,这个赛道也很卷。

  4. posthog:数据采集,让 Browser Use 的作者能更好知道项目被使用的情况,会收集一些使用数据上报到 posthog,Agent的执行过程都会上报,对数据敏感的可以关了。

  5. mem0:专为 LLM 提供的记忆层服务,分级存储用户信息、RAG 召回、易用的 API。也是开源+服务的模式。

  6. 浏览器服务:Browser Use 支持连接远程的 Browser 服务去执行任务(这也是 Playwright 支持的),官方文档里推荐的就有 browserbase.com、anchorbrowser.com、steel.dev、browserless.io 这几个服务。

其他就是一些配套实现了,gif 动图、多种模型调用的 example、test case 等。

为什么这么值钱

一个并不复杂的开源项目,得到市场这么大的认可,事后分析,可能是因为:

1. 是 Agent 的核心基础设施

  • Agent 跟现实世界交互,最优方案是通过 API,而不是 GUI 界面,所以基于 MCP 统一协议封装 API 是当下一大热门。

  • 但绝大多数服务没有 API,只有给人类提供的 GUI,现阶段要让 Agent 用处更广泛,还是得让它能理解、使用 GUI,而 Browser 是 GUI 的主要容器,在现阶段就是最核心的基础设施之一。

2. 有很高的上限

  • Browser 足够复杂,需要持续迭代,优化识别率、上下文管理、新的评测机制、探索模型上限等,深耕能形成壁垒。

  • Browser 一定有很强的云服务诉求,要各种上层 Agent 自己部署容器和 Browser 成本太高,商业化路径清晰。

3. 在这个领域做到了 SOTA

  • 据 Browser Use 自己的评测,在 WebVoyager Benchmark 上获得业界最好的效果。

  • 从近期声量、github 的活跃上看,稳居头部。

有需求,有商业化,有流量,在这个时间点让它很值钱。

想法


  1. 长期看, 模型直接理解截屏 是更自然更能 scale up 的做法,所有信息截屏都有,大模型应该像人一样能准确识别和操作,模型公司应该会一直在这条路上尝试。

  2. Browser Use 是在模型能力不足时期的 中间优化方案 ,如果这个时期足够长,它就价值很大,如果模型很快突破,它就会失去价值。

  3. 可以用同样的思路复刻 Mobile Use,iOS / Android 都有现成的 accessibility 能力,能拿到当前界面结构化的数据,只是会有沙盒的各种限制,这事很适合系统厂商去做。桌面端应该也可以。

  4. Agent 上下游相关配套基建都处于起步阶段,小团队很有机会把其中某个点做出彩。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
鲁比奥曝访华回国惊魂一幕,在“空军一号”上,发现“疑似尸体”

鲁比奥曝访华回国惊魂一幕,在“空军一号”上,发现“疑似尸体”

小莜读史
2026-08-14 20:37:32
合照时宋丹丹踮起脚尖,66岁的她身姿挺拔,体态轻盈私底下超自律

合照时宋丹丹踮起脚尖,66岁的她身姿挺拔,体态轻盈私底下超自律

一个小豹子
2026-10-01 19:16:36
俄罗斯让中国心凉?真正可怕的不是西方围堵,而是我们低估了自己

俄罗斯让中国心凉?真正可怕的不是西方围堵,而是我们低估了自己

旧史新谭
2026-06-22 13:09:54
卢璐披露刘欢病情细节,从确诊到离世,跟骨病苦熬了整整17个年头

卢璐披露刘欢病情细节,从确诊到离世,跟骨病苦熬了整整17个年头

王一晓
2026-10-01 20:24:25
刘国梁真要回归国乒?国乒掌舵人要换?答案其实早已揭晓

刘国梁真要回归国乒?国乒掌舵人要换?答案其实早已揭晓

好叫好伐
2026-08-20 15:46:23
央视《征途》被观众要求下架!理由:AI痕迹太明显,角色不配套

央视《征途》被观众要求下架!理由:AI痕迹太明显,角色不配套

古事寻踪记
2026-09-30 09:43:52
杨议:我不拜常宝丰,是怕给他找事,结果他把我拉黑了,恨上我了

杨议:我不拜常宝丰,是怕给他找事,结果他把我拉黑了,恨上我了

开烟酒店的明哥
2026-09-30 01:51:19
日本网友 X 上发帖:被中国小饭馆里塑料膜包着的碗碟惊呆了!

日本网友 X 上发帖:被中国小饭馆里塑料膜包着的碗碟惊呆了!

陈博世财经
2026-10-01 11:26:20
“拿筷子姿势恶心死了!”一段贫民窟小公主吃饭视频,给网友看力竭了!

“拿筷子姿势恶心死了!”一段贫民窟小公主吃饭视频,给网友看力竭了!

番外行
2026-09-30 21:42:16
回顾:被宠坏的“恶少”李天一,被判10年后出狱,仍然死性不改

回顾:被宠坏的“恶少”李天一,被判10年后出狱,仍然死性不改

白云故事
2025-01-24 18:25:03
52年最差纪录!国羽男单惨败的真相:不是没人,是我们养废了一代球员

52年最差纪录!国羽男单惨败的真相:不是没人,是我们养废了一代球员

浪子的烟火人间
2026-09-29 08:47:03
性出轨率最高的5个职业,不是人品差,是环境放大人性弱点

性出轨率最高的5个职业,不是人品差,是环境放大人性弱点

艺鉴在线
2026-09-30 14:57:44
2026年,除了房子越来越不值钱外,我国还将迎来4大“贬值潮”!

2026年,除了房子越来越不值钱外,我国还将迎来4大“贬值潮”!

细说职场
2026-10-01 09:18:58
谷歌DeepMind研究员宣称Gemini 4已实现RSI!

谷歌DeepMind研究员宣称Gemini 4已实现RSI!

新智元
2026-10-01 18:16:32
真大胆!两名华人拿着微信买来的美国护照入境,人脸识别当场露馅!

真大胆!两名华人拿着微信买来的美国护照入境,人脸识别当场露馅!

华人生活网
2026-10-01 02:15:33
华为、赛力斯再签五年,但问界仍由赛力斯主导

华为、赛力斯再签五年,但问界仍由赛力斯主导

观察者网
2026-10-01 19:29:08
亚运逆转头号种子!王曦雨:首盘0-5时想到郑钦文 好榜样给我力量

亚运逆转头号种子!王曦雨:首盘0-5时想到郑钦文 好榜样给我力量

我爱英超
2026-10-01 21:23:35
前主持人赵普透露,刘欢食量和酒量惊人,一顿吃10只闸蟹,独饮3瓶红酒面不改色

前主持人赵普透露,刘欢食量和酒量惊人,一顿吃10只闸蟹,独饮3瓶红酒面不改色

小椰的奶奶
2026-09-28 16:53:10
如果他活着,世上本无大明朝,一代枭雄为何竟然死于小人之手?

如果他活着,世上本无大明朝,一代枭雄为何竟然死于小人之手?

掠影后有感
2026-09-29 10:17:22
世界上断送国家命运的六大决策:1、俄罗斯卖掉阿拉斯加,2、乌克兰主动放弃核武器,3、伊朗霍梅尼回国,推翻巴列维政权

世界上断送国家命运的六大决策:1、俄罗斯卖掉阿拉斯加,2、乌克兰主动放弃核武器,3、伊朗霍梅尼回国,推翻巴列维政权

扶苏聊历史
2026-09-02 18:25:39
2026-10-02 03:08:49
Python猫 incentive-icons
Python猫
人生苦短,我用Python。博客:https://pythoncat.top
758文章数 8122关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

桂林市文促会深夜发布致歉信:向阿丘诚恳致歉

头条要闻

桂林市文促会深夜发布致歉信:向阿丘诚恳致歉

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

房产
时尚
本地
公开课
军事航空

房产要闻

4000+/平!华侨城,直接把海口楼市的地板给掀了!

在米兰,用时装唤醒内心的自我

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版