网易首页 > 网易号 > 正文 申请入驻

676个定位器实测:Claude最高96.7%,未赢转换器

0
分享至

把676个XPath定位器丢给Claude,让它转成iOS class chain,最好的那次跑到了转换器可用链数量的96.7%。听起来不错。但翻到另一栏:在任何一个定位器上,它都没有超过转换器。


这是Mikhail Yesipchuk做的一组对照测试。他此前写了一个XPath转class chain的转换器,在678个定位器上验证过,于是顺手问了一句:既然能把定位器粘给大模型,为什么还要写转换器?

测试用的定位器来自同一批:563个来自生产测试套件的真实定位器,加上115个手工构造的边界用例。实际参与对比的是676个,一个不是XPath,一个在运行时与另一个重复。

每次运行只发一个请求,整份列表放在一个文件里,打乱顺序,用中性id,模型分不清哪个是真实定位器、哪个是边界用例。环境是空文件夹里的Claude Code CLI,只开Read和Write工具,没有设置、没有联网,提示词里除了一条示例链之外没有任何参考。

打分用的是和转换器同一套裁判:一个从WebDriverAgent自身代码构建的WDA模拟器,在数百个生成的界面上跑每条链和它对应的XPath,比对两者找到的元素。完全一致的链得1分,有记录的近似得0.5分,跳过或错误链得0分。转换器的成绩是真实定位器96.0、边界用例93.6,这是这套评分下的上限。

真实定位器上,模型们贴得很近,R值在94到95之间,对96.0。大多数真实定位器本身简单,name、label、type、contains,每个模型都能转。差距全在边界用例上:S值64到82,对93.6。位置、字符串函数、嵌套谓词、转义,这些地方开始分叉。

更值得看的是错误链。每一次运行都产出了错误链,4到59条不等,而转换器是0条。4条错误链放在564条里听着不多,直到其中一条正好是你结账按钮的定位器。错误链比跳过更糟,因为它看起来像一条合法定位器:找到别的元素的链会点错按钮,而Appium驱动会把无效链报成"no such element",于是它表现得像一个不稳定的测试,而不是一个语法错误。

提高思考强度能救回来吗?Claude Code的effort档位从low到max。Opus在low和medium下答案完全一致,high多拿了1分S,代价是成本增加39%。Sonnet唯一实质性的台阶是low到medium,S从68.5升到77.6,成本不变;max再多拿3.6分,代价是4.6倍成本和36分钟。Haiku最佳档位是medium,在low下它用了零基索引,产出39条错误链,在max下则跳过了整份列表的四分之一。

在max档,79%到89%的输出token是思考,而这些思考没有改善答案。结论很直接:medium够了,对Opus来说low就够。

模型犯的错不是随机的,同样的五类错误反复出现。它们还会跳过本可以转换的东西:在普通请求下,Opus在每个档位都拒绝matches()、ends-with()和lower-case(),理由是"XPath 2.0函数",而WDA把它们注册为XPath扩展,在驱动上是合法定位器。

反方向也存在。早期运行中,模型为30个定位器找到了精确链,而当时的转换器只能跳过或近似。作者把这些形式用模拟器验证后加进了转换器,其中依赖XCTest谓词求值方式的部分还在模拟器和一台iPhone上验证过。也就是说,这轮大模型测试反过来让转换器变好了,此后没有任何模型在任何一个定位器上领先。

既然多数错误是关于WDA的知识而不是智力,作者把它们写成约90行的通用规则,塞进提示词再跑一遍。规则里没有针对特定定位器的答案。

加上规则后,R值几乎没动,真实定位器上模型本来就已经到位。S值分别涨了5、16和8,三个模型彼此靠得更近。Opus和Sonnet不再产出错误链,Haiku仍犯两类错误,其中一类重复了四次,所以它还需要人工检查。

Opus为什么停在转换器的96.7%?规则修好了12个定位器:4条错误链中的3条,以及9个对WDA支持特性的跳过。但模型同时变得更谨慎,多跳过了12个:其中7个确实没有精确链,跳过是对的;另外5个转换器能转。12进12出,第4条错误链变成了一次正确的跳过。

这套规则提示词改了三版,每版只动一条规则。第一版没有错误链,但因为一条关于@type的过度谨慎规则,跳过了76个可转换的真实定位器;收窄这条规则后问题消失。第三版修的是contains(@enabled,"false"),它必须变成enabled == false,因为在设备上对布尔值做CONTAINS会报错。规则来自转换器自身检查的发现,不是猜的。

所以实际怎么用?转换器优先。它免费、离线、几秒钟出结果、每次答案一致,而且没有产出过错误链。模型只用来处理转换器跳过的部分,且只用最新一代:Opus 5.5或Sonnet 5.5,low或medium档,提示词里带上规则。Haiku 5.5便宜六倍,但即使有规则它仍会产出错误链。多数跳过项根本没有精确链,所以期待模型解释原因,而不是期待它完成转换。

模型写出的每一条链,在替换XPath之前都要在屏幕上验证一遍。不要为max档付钱,它贵好几倍、耗时最多六倍,换来的S值提升最多几分。

测试本身也有边界:每个模型每个档位只跑一次,运行间波动只是顺带测到的,大约3分S;只测了Claude模型;裁判是WDA模拟器,转换器的链在模拟器和iPhone上验证过,而只有模型写出的那些形式大多没有;边界用例是刻意构造的非常规情况,在典型测试套件上,模型与转换器的差距就是R那一栏,大约1分。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“外交男神”王毅年轻旧照曝光,与妻子罕见同框,岳父曾任周总理秘书!

“外交男神”王毅年轻旧照曝光,与妻子罕见同框,岳父曾任周总理秘书!

微野谈写作
2026-10-15 08:50:08
一半钢琴厂倒闭,几万块的钢琴,5000块都卖不出,中产更惨了!

一半钢琴厂倒闭,几万块的钢琴,5000块都卖不出,中产更惨了!

兴趣知识
2026-10-17 01:45:08
马斯克:如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事

马斯克:如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事

元气科技馆
2026-10-09 16:59:28
跌过那么多轮,为什么偏偏这次最痛?

跌过那么多轮,为什么偏偏这次最痛?

资本时差
2026-10-17 23:53:48
郑钦文夺冠才1天,私密部位曝光,网友:看得生理不适,暴露圈子的恶俗

郑钦文夺冠才1天,私密部位曝光,网友:看得生理不适,暴露圈子的恶俗

只记花开v
2026-10-15 18:31:09
蓝心湄回应蔡康永“立场风波”:称他清楚自己在做什么,自曝每年陪妈妈回长沙探亲

蓝心湄回应蔡康永“立场风波”:称他清楚自己在做什么,自曝每年陪妈妈回长沙探亲

动物奇奇怪怪
2026-10-17 14:27:11
为何越来越多的年轻人认为社保不值得缴纳了?

为何越来越多的年轻人认为社保不值得缴纳了?

墨言执笔
2026-10-17 16:45:02
中国乒乓大捷!4-3夺冠,绝杀日本松岛美空,3小将强势登顶

中国乒乓大捷!4-3夺冠,绝杀日本松岛美空,3小将强势登顶

艳儿说电影
2026-10-17 16:29:58
iPhone Duo 一秒售罄,发货排到明年;马斯克:考虑自建电商平台;谷歌创始人:AI 正开始自己造自己

iPhone Duo 一秒售罄,发货排到明年;马斯克:考虑自建电商平台;谷歌创始人:AI 正开始自己造自己

极客公园
2026-10-17 08:25:11
黄日波被查,从科学家到广西政府和政协副主席,横跨政企学研四界

黄日波被查,从科学家到广西政府和政协副主席,横跨政企学研四界

何蕥室内设计
2026-10-18 11:58:30
男子破产12年送外卖养家,这天竟收1200万汇款,追到汇款方后却傻眼

男子破产12年送外卖养家,这天竟收1200万汇款,追到汇款方后却傻眼

温情邮局
2025-08-22 11:56:14
特斯拉官网上架新品!但售价离谱

特斯拉官网上架新品!但售价离谱

花果科技
2026-10-17 21:38:38
仅4599元!苹果官宣:10月20日,新iPhone全面降价

仅4599元!苹果官宣:10月20日,新iPhone全面降价

搞机小帝
2026-10-15 15:14:39
雅思停考风波背后:巅峰时内地一天7万人次考试,主办方近5财年累计净亏损1.84亿英镑,欲以藏品抵债!

雅思停考风波背后:巅峰时内地一天7万人次考试,主办方近5财年累计净亏损1.84亿英镑,欲以藏品抵债!

每日经济新闻
2026-10-15 14:59:23
乐基儿年轻时真漂亮,看曾志伟的眼神就知道了

乐基儿年轻时真漂亮,看曾志伟的眼神就知道了

娱你同欢
2026-09-13 20:22:17
广州禁摩,张雪机车却把华南最大店开进白云:300台车卖给了谁?

广州禁摩,张雪机车却把华南最大店开进白云:300台车卖给了谁?

娱乐圈的笔娱君
2026-10-18 09:06:32
特朗普:我不知道普京是否会来参加G20峰会,但我希望能见到他

特朗普:我不知道普京是否会来参加G20峰会,但我希望能见到他

环球网资讯
2026-10-17 18:11:40
战友女儿出嫁我随6万,我儿子结婚他转61,5年后快递让我清醒。

战友女儿出嫁我随6万,我儿子结婚他转61,5年后快递让我清醒。

朗威谈星座
2026-10-18 10:48:46
成都宝妈打伤人最新后续!曝受害者缝18针,鼻骨骨折,吓坏俩孩子

成都宝妈打伤人最新后续!曝受害者缝18针,鼻骨骨折,吓坏俩孩子

甜菊汽水
2026-10-17 14:16:06
美籍华人裴敏欣曾言:俄罗斯一旦打赢乌克兰,损失最惨的是中国

美籍华人裴敏欣曾言:俄罗斯一旦打赢乌克兰,损失最惨的是中国

辉哥说动漫
2026-10-15 06:15:41
2026-10-18 13:11:00
硅屿手记
硅屿手记
有态度网友ytd
217文章数 83关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

男子100多万买的车3年修几十次 最严重时高速直接熄火

头条要闻

男子100多万买的车3年修几十次 最严重时高速直接熄火

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

曝郭麒麟与25岁知名女星已经结婚,女方回应关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

家居
手机
数码
旅游
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

DOOGEE Note60 W系列手机亮相:6.38英寸90Hz阔面屏设计,撞脸华为Pura X View

数码要闻

联想P7 AI主机1024开启预约:此芯P1 SoC + 后摩M50 dNPU方案

旅游要闻

黄果树天星洞明日起实施临时封闭

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版