网易首页 > 网易号 > 正文 申请入驻

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

0
分享至


智东西
编译 黄菲
编辑 江宇

智东西11月12日消息,今日,谷歌宣布推出Gemini Decisions API,该API可通过同日新发布的模型Gemini Decision 1调用。与传统生成式模型不同,Gemini Decision 1可以直接评估输入内容,并针对最多1000个预设问题一次性作出判断。该模型支持文本、图像、音频、视频和PDF等多模态输入,且不收取输出Token费用。


性能方面,谷歌称,在最多16K Token的多模态输入场景下,Gemini Decision 1的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。

价格方面,Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费,其成本约为Gemini 3.5 Flash-Lite通过Interactions API调用成本的五分之一。

API上线后,网友对此的评价不一。一名用户认为:“炒了这么久,结果就这?不过,我确实会用它来做路由。只为了回答是或否就让一个聊天模型专门生成一整段话,一直让我觉得有些大材小用。但这也算不上多么创新,类似的东西我们已经见过不少了。”


另一名用户则提出了一个实际问题:“如果给出的选项都不正确,它会怎么回答?总体来说,我很高兴看到这项功能,尤其是它支持多模态输入,这对我的资产分类工作很有用。”


还有用户则提到,这项API的价值取决于实际速度表现:“如果它真的比让普通模型直接作出判断更快,那就很有意思。我宁愿两秒钟就得到答案,也不想等一段自己根本不需要的长篇解释。”


同日,个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)使用免费API密钥进行了实测。其中,模型在54次调用、30条客服工单和8项多语言任务全部分类正确,单次处理100个判断问题仅耗时0.41秒,但莱西亚发现模型会将超出预设范围的输入强行归入已有类别。

目前,Gemini Decisions API已用于Gemini Notebook等谷歌内部产品,谷歌搜索也将其用于模型上下文协议(MCP)工具的安全防护。开发者可以通过谷歌AI Studio获取API密钥,并使用免费API额度进行原型开发。

谷歌AI Studio地址:https://aistudio.google.com/

一、支持三类判断方式混用,单次请求最多处理1000个问题

Gemini Decisions API通过三类判断方式处理开发者预先定义的问题,分别是是非判断(Yes/No)、多项选择(Multiple Choice)和分级评分(Ordered Rubric),而这三种方式可以在同一次请求中混合使用。

是非判断用于估算某个条件成立的概率,开发者还可以分别设置条件成立和不成立时的描述标准。多项选择支持2至255个候选项,模型会选出最符合要求的选项,并返回每个候选项对应的归一化概率。分级评分则按照从0开始的有序标准对输入内容进行评估,返回加权后的连续分数,以及各个评分等级对应的概率。

三种判断方式均会附带0至1之间的置信度分数。开发者可以根据置信度设置处理规则,例如将模型无法确定的结果交给备用模型处理,或者转交人工审核。

在多模态处理方面,Gemini Decision 1基于Gemini原生多模态架构,可以在一次模型计算中直接处理文本、图像、音频、视频和PDF文件。不同类型的内容可以组合在同一份输入中,例如将通话录音与账户信息放在一起分析,或者将PDF保险理赔文件与现场受损照片结合起来判断。

开发者还可以调整图像和视频的分辨率,以控制模型需要识别的画面细节和Token消耗。单次请求最多支持256K Token的输入内容,并可针对同一份输入设置最多1000个独立问题。

谷歌还给出了一个实际应用示例。开发者可以上传一张休息室台面的照片,并附上一段文字说明,让模型同时判断台面上是否存在未清理的液体、应该采取哪种清洁措施,以及现场脏乱程度。


其中,模型需要判断是否存在液体污渍,在擦拭台面、安排清洁人员和无需处理三种行动中作出选择,并按照清洁完毕、轻微局部污渍和严重污渍或安全隐患三个等级进行评分。三项任务可以通过一次请求完成。


目前,谷歌内部已有Gemini Notebook、Stitch等多个产品接入Gemini Decisions API,将其作为低延迟的决策控制层。开发者只需预先定义判断选项,就可以让模型完成任务分配,不必额外训练专用分类器,也无需等待生成式模型输出完整答案。

此外,谷歌搜索也将Decisions API用于模型上下文协议(Model Context Protocol,MCP)工具的安全防护层,帮助识别对抗性行为和相关内容,在控制响应延迟的同时提高检测效果。

二、响应延迟最低50毫秒,成本不到生成式模型的五分之一

在运行机制上,Gemini Decision 1与传统生成式模型有所不同。

传统生成式模型通常需要逐个生成Token,再组合成完整答案。Gemini Decision 1则直接对开发者预先设定的候选选项进行评分,通过一次模型向前计算返回概率和置信度,不需要逐个生成答案Token。

谷歌称,在包含智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1整体表现领先,校准误差也是参与测试的API中最低的。


在最多16K Token的多模态输入场景下,该模型的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。当单次请求的问题数量从1个增加到100个时,响应延迟基本保持稳定。

成本方面,由于同一请求中的共享输入只计费一次,因此增加判断问题时,用户只需额外支付各问题对应的指令和评估标准所消耗的Token费用。

在双方共同参与的基准测试中,与通过Interactions API调用的Gemini 3.5 Flash-Lite相比,Gemini Decision 1搭配Decisions API的成本接近降低80%,约为Gemini 3.5 Flash-Lite的五分之一。

Gemini 3.5 Flash-Lite每百万输入Token收费0.3美元(约合人民币2.01元),每百万输出Token收费2.5美元(约合人民币16.75元)


Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),不收取输出Token费用、额外的思考Token费用,以及单独的音频转写和OCR文字识别费用。


在调用额度方面,Gemini Decisions API分为免费和付费两档。

免费版每分钟最多发起200次请求,每分钟最多处理5万个Token,每天最多发起1万次请求。

付费版每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费。在Tier 1等级下,每分钟最多发起1500次请求,每分钟最多处理100万个Token,每天最多发起5万次请求。


三、开发者实测54次调用,100个问题耗时增加70%

个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)于11月11日发布了Gemini Decision 1的API实测结果。该开发者使用免费API密钥进行了54次调用,测试了模型的分类准确率、多语言处理能力、批量判断效率和结果稳定性。

在实际测试中,该开发者提交了30条客服工单,要求模型将工单分配至对应团队,30条工单全部正确分类。在多语言测试中,模型处理了乌克兰语、德语、西班牙语、波兰语和日语等语言的8项任务,也全部给出了正确结果。

批量处理方面,该开发者分别测试了单次请求包含1个、10个和100个判断问题的情况。结果显示,处理1个问题和10个问题时,中位响应时间均为0.24秒;问题数量增加至100个后,响应时间上升至0.41秒,增加约70%。

对应的Token消耗也随问题数量增加而上升。单次处理1个问题消耗135个Token,10个问题消耗613个Token,100个问题消耗5473个Token。此外,相同请求重复提交5次,模型返回的结果和概率完全一致。


这项测试还暴露出模型在处理异常输入时的一个问题。当输入内容不符合预设分类条件时,模型可能仍会强行选择已有选项。

例如,开发者向模型输入澳大利亚的首都、无意义的随机字符,以及一段要求创作秋天主题诗歌的文字,要求模型判断这些内容是否属于客服请求。

当开发者在候选选项中加入“其他”后,模型对三项输入均选择了“其他”,对应置信度分别为0.99、0.69和0.98。

但在没有设置“其他”选项时,模型将三项内容均错误归入技术支持类别,置信度分别达到0.71、0.64和0.84。对于是否属于客服请求这一是非判断,模型给出的概率也只有0.01、0.07和0.01。


可以看到,Gemini Decision 1虽然能够快速处理预设范围内的判断任务,但其结果仍然受到候选选项设计的影响。若开发者没有为异常输入设置兜底选项,模型可能将不符合分类条件的内容强行归入已有类别。

结语:谷歌将模型能力延伸至快速决策场景

从Gemini Decisions API的定位来看,谷歌正尝试在有一定竞争力的同时兼顾处理速度与调用成本。

对于需要频繁进行分类和工具选择的Agent应用来说,这类API提供了一种新的调用方式。随着Gemini Notebook、Stitch等谷歌内部产品陆续接入,其应用场景也在逐步拓宽。

未来,Gemini Decision 1能否在实际工作流中持续保持稳定的判断质量和处理效率,将影响这类API能否形成长期竞争优势。

来源:谷歌


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

一盅情怀
2026-11-11 15:52:58
马斯克:别急着解雇黄仁勋,等一等调查结果,如果他被裁了我会雇佣他

马斯克:别急着解雇黄仁勋,等一等调查结果,如果他被裁了我会雇佣他

可达鸭面面观
2026-11-12 12:28:27
中国正在失控的商铺空置潮持续蔓延,怎么破解

中国正在失控的商铺空置潮持续蔓延,怎么破解

律法刑道
2026-11-12 09:49:42
选前操弄“抗中”,必遭民意反噬,台当局竟逼陆客签“台独声明”

选前操弄“抗中”,必遭民意反噬,台当局竟逼陆客签“台独声明”

环球时报国际
2026-11-12 08:56:33
中国富豪还是听话,90天申报个税1600亿,他们为何“割肉”补税?

中国富豪还是听话,90天申报个税1600亿,他们为何“割肉”补税?

文刀贰
2026-11-12 04:40:05
黄乐利用与黄仁勋的关系,转运了75亿美元英伟达AI芯片?

黄乐利用与黄仁勋的关系,转运了75亿美元英伟达AI芯片?

芯智讯
2026-11-11 17:34:20
突发!黄仁勋婚外情又来一个,董事会启动罢免,英伟达暴跌 8%!

突发!黄仁勋婚外情又来一个,董事会启动罢免,英伟达暴跌 8%!

起点财经
2026-11-12 08:49:04
女子在西西弗书店购买近200元图书,落座咖啡区被告知需单独消费,当场退书离店,书店主管:书店和咖啡店分开核算营收,所有门店都如此

女子在西西弗书店购买近200元图书,落座咖啡区被告知需单独消费,当场退书离店,书店主管:书店和咖啡店分开核算营收,所有门店都如此

洪观新闻
2026-11-11 21:57:57
两名外籍乘客将头探出高铁车厢外吸烟,12306回应:此行为属个人素质问题,无法阻止,若影响列车运行或在车厢内吸烟会被处罚

两名外籍乘客将头探出高铁车厢外吸烟,12306回应:此行为属个人素质问题,无法阻止,若影响列车运行或在车厢内吸烟会被处罚

洪观新闻
2026-11-11 21:51:24
太惨了,“靠山哥”刚退伍就把银行卡给女友,结婚一年女方就离婚

太惨了,“靠山哥”刚退伍就把银行卡给女友,结婚一年女方就离婚

四斤
2026-11-11 18:15:24
新华社消息确认了:“为伊朗捐躯”妇女培训中心揭幕活动在伊朗首都德黑兰自由广场举行,不同年龄伊朗女性在指导下练习瞄准、学习枪械操作

新华社消息确认了:“为伊朗捐躯”妇女培训中心揭幕活动在伊朗首都德黑兰自由广场举行,不同年龄伊朗女性在指导下练习瞄准、学习枪械操作

吉刻新闻
2026-11-12 07:48:29
28岁中国留学毕业生在墨尔本遇袭,两根手指被砍断,膝盖被砍伤,事后又遭朋友背刺,亲友筹集的54000澳元医药费被对方卷走

28岁中国留学毕业生在墨尔本遇袭,两根手指被砍断,膝盖被砍伤,事后又遭朋友背刺,亲友筹集的54000澳元医药费被对方卷走

极目新闻
2026-11-12 00:12:44
太恶心了!广东网友私聊提醒身上有异味的同事注意卫生,对方称如厕后不擦拭靠风干,还自称有洁癖,聊天记录引发热议

太恶心了!广东网友私聊提醒身上有异味的同事注意卫生,对方称如厕后不擦拭靠风干,还自称有洁癖,聊天记录引发热议

火山詩话
2026-11-12 14:10:11
英伟达将罢免黄仁勋

英伟达将罢免黄仁勋

凤眼论
2026-11-12 07:31:48
谈判结束!普京开出条件,泽连斯基拒绝低头,特朗普态度转变?

谈判结束!普京开出条件,泽连斯基拒绝低头,特朗普态度转变?

军机Nova
2026-11-12 08:16:03
首都医科大学大一新生被电诈180万,细节曝光:先后取现、转账大量现金,交出450克黄金,骗子要求其切断与他人沟通

首都医科大学大一新生被电诈180万,细节曝光:先后取现、转账大量现金,交出450克黄金,骗子要求其切断与他人沟通

上观新闻
2026-11-12 12:24:37
这个假期大批量高校教师辞职或被辞退!有学校一次性约谈了60多个老师走,高校真的到了呆不下去的地步吗?

这个假期大批量高校教师辞职或被辞退!有学校一次性约谈了60多个老师走,高校真的到了呆不下去的地步吗?

学术眺望
2026-11-11 20:30:03
脉脉、小红书开始流传腾讯裁员消息,据称马化腾"全程没啥笑脸"、"措辞严厉"

脉脉、小红书开始流传腾讯裁员消息,据称马化腾"全程没啥笑脸"、"措辞严厉"

新商业派
2026-11-12 10:49:22
黄乐出轨黄仁勋名满天下,丈夫康伟却在监狱里偷偷落泪

黄乐出轨黄仁勋名满天下,丈夫康伟却在监狱里偷偷落泪

微评社
2026-11-12 09:07:38
江苏又一地集中供暖!离无锡不远

江苏又一地集中供暖!离无锡不远

江南晚报
2026-11-11 15:45:53
2026-11-12 15:59:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12918文章数 117193关注度
往期回顾 全部

科技要闻

黄仁勋承认出轨:伤害了妻儿,毫无借口

头条要闻

国家级射击教练涉走私武器 家属:配件组成不了一支枪

头条要闻

国家级射击教练涉走私武器 家属:配件组成不了一支枪

体育要闻

西部狂飙!湖刺勇集体暴走 连胜到何时?

娱乐要闻

黄仁勋与黄乐合照曝光,吃饭氛围暧昧

财经要闻

72岁王健林重回“一号位”

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

房产
旅游
数码
家居
公开课

房产要闻

4.1亿起拍!停了7年,亚龙湾终于要卖地了!

旅游要闻

直播间低价旅游卡兑现难 文旅消费陷阱如何破?

数码要闻

STEPX Neo体验:当手机开始理解意图,AI交互有了新玩法

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版