网易首页 > 网易号 > 正文 申请入驻

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

0
分享至


智东西
编译 黄菲
编辑 江宇

智东西11月12日消息,今日,谷歌宣布推出Gemini Decisions API,该API可通过同日新发布的模型Gemini Decision 1调用。与传统生成式模型不同,Gemini Decision 1可以直接评估输入内容,并针对最多1000个预设问题一次性作出判断。该模型支持文本、图像、音频、视频和PDF等多模态输入,且不收取输出Token费用。


性能方面,谷歌称,在最多16K Token的多模态输入场景下,Gemini Decision 1的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。

价格方面,Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费,其成本约为Gemini 3.5 Flash-Lite通过Interactions API调用成本的五分之一。

API上线后,网友对此的评价不一。一名用户认为:“炒了这么久,结果就这?不过,我确实会用它来做路由。只为了回答是或否就让一个聊天模型专门生成一整段话,一直让我觉得有些大材小用。但这也算不上多么创新,类似的东西我们已经见过不少了。”


另一名用户则提出了一个实际问题:“如果给出的选项都不正确,它会怎么回答?总体来说,我很高兴看到这项功能,尤其是它支持多模态输入,这对我的资产分类工作很有用。”


还有用户则提到,这项API的价值取决于实际速度表现:“如果它真的比让普通模型直接作出判断更快,那就很有意思。我宁愿两秒钟就得到答案,也不想等一段自己根本不需要的长篇解释。”


同日,个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)使用免费API密钥进行了实测。其中,模型在54次调用、30条客服工单和8项多语言任务全部分类正确,单次处理100个判断问题仅耗时0.41秒,但莱西亚发现模型会将超出预设范围的输入强行归入已有类别。

目前,Gemini Decisions API已用于Gemini Notebook等谷歌内部产品,谷歌搜索也将其用于模型上下文协议(MCP)工具的安全防护。开发者可以通过谷歌AI Studio获取API密钥,并使用免费API额度进行原型开发。

谷歌AI Studio地址:https://aistudio.google.com/

一、支持三类判断方式混用,单次请求最多处理1000个问题

Gemini Decisions API通过三类判断方式处理开发者预先定义的问题,分别是是非判断(Yes/No)、多项选择(Multiple Choice)和分级评分(Ordered Rubric),而这三种方式可以在同一次请求中混合使用。

是非判断用于估算某个条件成立的概率,开发者还可以分别设置条件成立和不成立时的描述标准。多项选择支持2至255个候选项,模型会选出最符合要求的选项,并返回每个候选项对应的归一化概率。分级评分则按照从0开始的有序标准对输入内容进行评估,返回加权后的连续分数,以及各个评分等级对应的概率。

三种判断方式均会附带0至1之间的置信度分数。开发者可以根据置信度设置处理规则,例如将模型无法确定的结果交给备用模型处理,或者转交人工审核。

在多模态处理方面,Gemini Decision 1基于Gemini原生多模态架构,可以在一次模型计算中直接处理文本、图像、音频、视频和PDF文件。不同类型的内容可以组合在同一份输入中,例如将通话录音与账户信息放在一起分析,或者将PDF保险理赔文件与现场受损照片结合起来判断。

开发者还可以调整图像和视频的分辨率,以控制模型需要识别的画面细节和Token消耗。单次请求最多支持256K Token的输入内容,并可针对同一份输入设置最多1000个独立问题。

谷歌还给出了一个实际应用示例。开发者可以上传一张休息室台面的照片,并附上一段文字说明,让模型同时判断台面上是否存在未清理的液体、应该采取哪种清洁措施,以及现场脏乱程度。


其中,模型需要判断是否存在液体污渍,在擦拭台面、安排清洁人员和无需处理三种行动中作出选择,并按照清洁完毕、轻微局部污渍和严重污渍或安全隐患三个等级进行评分。三项任务可以通过一次请求完成。


目前,谷歌内部已有Gemini Notebook、Stitch等多个产品接入Gemini Decisions API,将其作为低延迟的决策控制层。开发者只需预先定义判断选项,就可以让模型完成任务分配,不必额外训练专用分类器,也无需等待生成式模型输出完整答案。

此外,谷歌搜索也将Decisions API用于模型上下文协议(Model Context Protocol,MCP)工具的安全防护层,帮助识别对抗性行为和相关内容,在控制响应延迟的同时提高检测效果。

二、响应延迟最低50毫秒,成本不到生成式模型的五分之一

在运行机制上,Gemini Decision 1与传统生成式模型有所不同。

传统生成式模型通常需要逐个生成Token,再组合成完整答案。Gemini Decision 1则直接对开发者预先设定的候选选项进行评分,通过一次模型向前计算返回概率和置信度,不需要逐个生成答案Token。

谷歌称,在包含智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1整体表现领先,校准误差也是参与测试的API中最低的。


在最多16K Token的多模态输入场景下,该模型的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。当单次请求的问题数量从1个增加到100个时,响应延迟基本保持稳定。

成本方面,由于同一请求中的共享输入只计费一次,因此增加判断问题时,用户只需额外支付各问题对应的指令和评估标准所消耗的Token费用。

在双方共同参与的基准测试中,与通过Interactions API调用的Gemini 3.5 Flash-Lite相比,Gemini Decision 1搭配Decisions API的成本接近降低80%,约为Gemini 3.5 Flash-Lite的五分之一。

Gemini 3.5 Flash-Lite每百万输入Token收费0.3美元(约合人民币2.01元),每百万输出Token收费2.5美元(约合人民币16.75元)


Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),不收取输出Token费用、额外的思考Token费用,以及单独的音频转写和OCR文字识别费用。


在调用额度方面,Gemini Decisions API分为免费和付费两档。

免费版每分钟最多发起200次请求,每分钟最多处理5万个Token,每天最多发起1万次请求。

付费版每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费。在Tier 1等级下,每分钟最多发起1500次请求,每分钟最多处理100万个Token,每天最多发起5万次请求。


三、开发者实测54次调用,100个问题耗时增加70%

个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)于11月11日发布了Gemini Decision 1的API实测结果。该开发者使用免费API密钥进行了54次调用,测试了模型的分类准确率、多语言处理能力、批量判断效率和结果稳定性。

在实际测试中,该开发者提交了30条客服工单,要求模型将工单分配至对应团队,30条工单全部正确分类。在多语言测试中,模型处理了乌克兰语、德语、西班牙语、波兰语和日语等语言的8项任务,也全部给出了正确结果。

批量处理方面,该开发者分别测试了单次请求包含1个、10个和100个判断问题的情况。结果显示,处理1个问题和10个问题时,中位响应时间均为0.24秒;问题数量增加至100个后,响应时间上升至0.41秒,增加约70%。

对应的Token消耗也随问题数量增加而上升。单次处理1个问题消耗135个Token,10个问题消耗613个Token,100个问题消耗5473个Token。此外,相同请求重复提交5次,模型返回的结果和概率完全一致。


这项测试还暴露出模型在处理异常输入时的一个问题。当输入内容不符合预设分类条件时,模型可能仍会强行选择已有选项。

例如,开发者向模型输入澳大利亚的首都、无意义的随机字符,以及一段要求创作秋天主题诗歌的文字,要求模型判断这些内容是否属于客服请求。

当开发者在候选选项中加入“其他”后,模型对三项输入均选择了“其他”,对应置信度分别为0.99、0.69和0.98。

但在没有设置“其他”选项时,模型将三项内容均错误归入技术支持类别,置信度分别达到0.71、0.64和0.84。对于是否属于客服请求这一是非判断,模型给出的概率也只有0.01、0.07和0.01。


可以看到,Gemini Decision 1虽然能够快速处理预设范围内的判断任务,但其结果仍然受到候选选项设计的影响。若开发者没有为异常输入设置兜底选项,模型可能将不符合分类条件的内容强行归入已有类别。

结语:谷歌将模型能力延伸至快速决策场景

从Gemini Decisions API的定位来看,谷歌正尝试在有一定竞争力的同时兼顾处理速度与调用成本。

对于需要频繁进行分类和工具选择的Agent应用来说,这类API提供了一种新的调用方式。随着Gemini Notebook、Stitch等谷歌内部产品陆续接入,其应用场景也在逐步拓宽。

未来,Gemini Decision 1能否在实际工作流中持续保持稳定的判断质量和处理效率,将影响这类API能否形成长期竞争优势。

来源:谷歌


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上海偶遇陈奕迅老婆,头发乌黑脸蛋紧致,眼神犀利52岁未见老态

上海偶遇陈奕迅老婆,头发乌黑脸蛋紧致,眼神犀利52岁未见老态

一娱三分地
2026-11-10 19:00:01
东里全伤退,湖人123-112轻取雄鹿豪取7连胜,东契奇32+5+5

东里全伤退,湖人123-112轻取雄鹿豪取7连胜,东契奇32+5+5

懂球帝
2026-11-12 12:03:05
沙特阿拉伯判处一名男子死刑,原因是他在15岁时参加了抗议活动

沙特阿拉伯判处一名男子死刑,原因是他在15岁时参加了抗议活动

花寒弦絮
2026-10-17 01:59:53
为期11天,广州全市夜查,涉商场市场、宾馆饭店、影剧院、夜总会、医院、养老院、出租屋等

为期11天,广州全市夜查,涉商场市场、宾馆饭店、影剧院、夜总会、医院、养老院、出租屋等

番禺台
2026-11-12 02:38:25
65岁老人长期服用丹参片来清理血管,结果怎样了?告诉你实情

65岁老人长期服用丹参片来清理血管,结果怎样了?告诉你实情

39健康网
2026-11-11 20:10:23
裤衩开叉10厘米!被网暴5年!铁三女神夺亚军又被骂,裁判:合规

裤衩开叉10厘米!被网暴5年!铁三女神夺亚军又被骂,裁判:合规

番外行
2026-06-07 15:53:29
金鸡奖最大争议诞生!6.7分片子击败9.3分,凭什么?

金鸡奖最大争议诞生!6.7分片子击败9.3分,凭什么?

东方不败然多多
2026-11-12 05:46:43
英伟达股价盘后跌幅扩大至9%

英伟达股价盘后跌幅扩大至9%

每日经济新闻
2026-11-12 06:38:05
明里紬、白峰美羽、神木丽、森彩美、雨宫响 美女明星动态

明里紬、白峰美羽、神木丽、森彩美、雨宫响 美女明星动态

鹿鹿156
2026-11-12 10:55:50
5080显卡暴跌4000元,网友:差点以为能买得起了

5080显卡暴跌4000元,网友:差点以为能买得起了

环球时报国际
2026-11-12 08:06:19
太可怕了!江苏女生哭诉侍候父亲的至暗时刻,字里行间恐惧与绝望

太可怕了!江苏女生哭诉侍候父亲的至暗时刻,字里行间恐惧与绝望

火山詩话
2026-05-30 17:59:42
父亲供我读书,如今我年薪200万,他开口借50万,我却狠心拒绝

父亲供我读书,如今我年薪200万,他开口借50万,我却狠心拒绝

兰姐说故事
2025-05-18 20:00:06
凌晨4点,中外战机关灯缠斗,中美飞行员的实力天平悄悄翻了个儿

凌晨4点,中外战机关灯缠斗,中美飞行员的实力天平悄悄翻了个儿

云上乌托邦
2026-11-12 10:25:26
敢和有老公的女人发展婚外感情的男人,多半都是这样,很现实

敢和有老公的女人发展婚外感情的男人,多半都是这样,很现实

游戏收藏指南
2026-11-12 14:20:22
成都小伙9元买棵菊花苗,养了一年多,第一次参加人民公园头菊赛

成都小伙9元买棵菊花苗,养了一年多,第一次参加人民公园头菊赛

黑哥讲现代史
2026-11-12 08:26:09
张本智和击败中国队夺冠!日本政府颁发特别表彰 松岛辉空也获奖

张本智和击败中国队夺冠!日本政府颁发特别表彰 松岛辉空也获奖

好乒乓
2026-11-12 13:19:27
腾讯搬走后,科兴物价彻底崩了,一杯咖啡从25降到15

腾讯搬走后,科兴物价彻底崩了,一杯咖啡从25降到15

流苏晚晴
2026-09-18 14:24:54
美军兵推:核打击上海北京后,中方第一个报复日韩,而非美国本土

美军兵推:核打击上海北京后,中方第一个报复日韩,而非美国本土

小涛叨叨
2026-11-11 12:55:34
最大规模补税潮到来

最大规模补税潮到来

边际财经实验室
2026-11-11 20:41:39
美驻秘大使公开会见“台北驻秘鲁经文处代表”,中使馆:美方背弃在台湾问题上向中方作出的严肃政治承诺,纵容“台独”势力,中方坚决反对

美驻秘大使公开会见“台北驻秘鲁经文处代表”,中使馆:美方背弃在台湾问题上向中方作出的严肃政治承诺,纵容“台独”势力,中方坚决反对

极目新闻
2026-11-12 09:08:12
2026-11-12 16:16:49
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12918文章数 117193关注度
往期回顾 全部

科技要闻

英伟达物色新掌门,谁敢接黄仁勋的班?

头条要闻

媒体:民主党掏出两把"刀" 一把挥向对华出口芯片政策

头条要闻

媒体:民主党掏出两把"刀" 一把挥向对华出口芯片政策

体育要闻

西部狂飙!湖刺勇集体暴走 连胜到何时?

娱乐要闻

北京知名大腕郝泊言去世,年仅39岁

财经要闻

黄仁勋再曝新婚外情,董事会准备罢免!

汽车要闻

座舱换大屏/增激光雷达 瑞虎9猎鹰700版限时价17.29万

态度原创

亲子
游戏
旅游
家居
公开课

亲子要闻

杰哥和双儿姐出门办事不在家,哥哥懂事的在家带妹妹做饭照顾阿公

《密特罗德究极4:穿越未知》Windows重编译版已可通关

旅游要闻

“秋假娃”集体出动!景区约满博物馆秒没,研学不再打卡式观光 | 封面观察

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版