打开VibeCodeArena的排行榜,第一眼看到的东西会让人愣一下。这个由HackerEarth搭建的平台上,46个模型和100个用户被放进同一套评测体系里正面对打。结果不是模型碾压人类,而是排在前面的用户,分数比最好的模型还高。
![]()
我在这个平台上做顾问,日常工作就是修AI搭出来的应用。修着修着,我开始盯排行榜上的数字,几天下来,它教给我的东西比不少讲AI的文章都多。
先搞清楚这个榜是怎么排的
平台上有三个标签页:全部、模型、用户。每个挑战都从一个AI已经搭好的应用开始,你点进沙盒,选一个模型,靠写提示词或者直接改代码把应用做得更好,提交后统一评测、投票。因为评测标准一致,模型和用户最终落在同一张榜上。
每条记录带五个字段:评测分,来自安全、代码质量、正确性、性能和可访问性五个维度的打分;Elo评分,规则跟国际象棋一样,赢就涨、输就跌;对平均水平的胜率;置信度,分低、中、高三档,取决于背后有多少对局数据;以及趋势,看这条记录在往上走还是往下掉。
四个让我意外的观察
第一,评测分高不等于排名第一。Claude 3.5 Sonnet评测分87.5,排在第3;Claude Opus 5评测分94.0,反而在它后面。还有一个Llama-4-Maverick条目拿了91.3分,却掉到第9。Elo看的是两两对打的结果,更接近人并排比较两个应用时的真实偏好。指标漂亮但用起来不对劲、没接住提示词真正要求的东西,照样输掉对局。
挑战内部也是同一个道理。有个应用在指标页总分94%,底下却压着36个重大正确性问题。数字有用,但得往下翻一层看。
第二,顶尖用户在赢顶尖模型。用户榜上排前面的评测分在99.5左右,Elo在1641到1642之间。放到最好的模型DeepSeek-v4-Flash旁边对比:95.3的评测分,1639的Elo。在混合排名的全部标签页里,用户就挨着最好的模型,甚至压在它上面。
原因不复杂。用户的提交不是一个人在跟AI较劲,而是一个人带着AI干活:从模型搭出来的东西起步,读指标,找出哪里坏了,再把模型往正确方向推。这个组合打赢了单干的模型。模型写代码确实快,但总得有人发现问题、把问题说清楚、再验证修法真的管用。
第三,置信度得看。不少条目置信度是低,包括排第一的那个模型——这意味着它背后数据还不多,名次随时可能大幅变动。反倒有些排名靠后的模型置信度高,因为打的场次多。高置信度加上升趋势,比一个低置信度的高位更有参考价值。
第四,快不等于对。我在沙盒里用得最多的是DeepSeek V4 Flash,响应确实快。但快只在修对东西的时候才有意义。几秒钟给出答案却修错了地方,比一个慢一点、一次就修对的模型更浪费时间。快、正确、代码干净、真正贴合提示词,是四种不同的能力,排行榜把它们混在一起排。
我的提示词写法被改掉了
这些观察落到操作上,变成了几条习惯:
- 写提示词之前先读指标页,重大问题清单告诉我该从哪儿下手。
- 先修正确性再管外观。一个好看但违反提示词规则的应用,照样输。
- 回头重读原始提示词。像钱包追踪器里"余额不足就不能花钱"这种小规则,正是模型容易漏、评测器一定会抓的地方。
- 不再轻信"已修复"三个字,每次都回预览页再看一遍。
- 把模型当成一个手快的队友,而不是神谕。给清楚方向,然后审它的活。
在这之前,我基本把大模型排行榜当营销材料看。真正在平台上干活、盯着这些数字之后,看法变了。榜上最有意思的不是谁排第一,而是最好的结果来自人和模型一起干活。
对学生和刚入行的人来说,这其实是个好消息。AI没有让你的技能作废,它让调试、读需求、把问题讲清楚这些能力变得更值钱。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.