网易首页 > 网易号 > 正文 申请入驻

免费玩转Cloudflare-09:Cloudflare使用AI Gateway,让大模型APIKey统一网关、提速、防降智

0
分享至


免费玩转Cloudflare-09:Cloudflare使用AI Gateway,让大模型APIKey统一网关、提速、防降智

大家好,我是星哥。如今每个开发者调用大模型的APIKey,难免会遇到以下的问题。

  • 账单像开盲盒 :请求量一上来,月底一看账单心在滴血,根本不知道钱花哪了,哪些是无效请求。

  • 速度像坐过山车 :高峰期卡得要死,动不动就超时,用户体验极差。

  • 最要命的 IP 问题 :自己搭的不纯净,动不动就被官方“降智”(回答变蠢),甚至直接封号,简直搞心态。

如果你也中了这几条,那星哥今天必须给你安利一个“神仙工具”。

没错,咱们的“赛博菩萨” Cloudflare,又发了一个大招:AI Gateway(AI 统一网关)

使用Cloudflare AI Gateway来统一管理AI服务的调用。

重点是:这服务是免费的!

AI Gateway是干嘛的?

简单来说,它就是一个架在你应用和大模型 API(比如 OpenAI、谷歌Gemini、HuggingFace)中间的 “智能门卫 + 调度员”

费用

月订阅:$0

每日请求额度:10 万次 AI 网关请求,超限当日限流

持久日志存储限额:全账号合计10 万条 / 月,超出不再记录日志

限制:无 Logpush 日志导出、无超大流量弹性扩容、日志容量小

适用:个人项目、低频次测试、小型内部工具


它不替你算 AI,但它能帮你把 AI 请求管得明明白白。星哥给大家总结了它的几个核心爽点:

  1. 1. 防封防降智 :走 Cloudflare 的干净 IP,再也不用担心 IP 不纯净被大模型“变笨”或者封号了。

  2. 2. 成本全透明 :谁调了多少次、花了多少钱、Token 消耗多少,后台看得一清二楚。

  3. 3. 智能缓存 :相同的提示词,直接返回缓存结果,不扣大模型的 Token,省钱又提速。

  4. 4. 自带监控和限速 :请求日志、错误重试、速率限制,一站式搞定,应用稳如老狗。

手把手实操:3分钟完成接入

星哥直接带大家走一遍流程。其实接入极其简单,核心就改一行代码

第一步:在 CF 后台创建网关

  1. 1. 登录你的 Cloudflare 后台(没有账号的去注册一个,秒开)。

  2. 2. 左侧菜单找到 “AI” -> “AI Gateway”

  3. 3. 点击醒目的 “Create Gateway” ,随便起个名字,比如 star-ai

  4. 4. 创建好后,你会看到一个 复制API令牌 ,把这个令牌复制到记事本等笔记中。


创建新网关


第二步:提供程序密钥

ai-gateway 开通之后,过个5-10分钟,再次进入会到这个界面

有概述、日志、数据分析等等,我们点击“提供程序密钥”,这里就是需要填DeepSeek、OpenAI、谷歌Geimini的的密钥了。


BYOK

这里会有一个BYOK的概念,

BYOK = Bring Your Own Key,中文:自带密钥。

通用云安全定义:用户自行持有、管控第三方服务的访问密钥,把密钥托管到服务商加密存储,调用时由服务商后台自动代填密钥,客户端代码不再明文携带原始密钥。


选择大模型供应商


如果没有你需要的,也可以选择“配置自定义提供商”

我这里填OR作为测试。


第三步:调用

这一步贼简单,你只需要把原来请求大模型的 Base URL,换成上面那个 Gateway URL。其他参数、API Key 统统不用动!

调用谷歌的gemini-2.5

可以查看实例代码


                                                                 CF_AIG_TOKEN='你的CF的AI Gateway的token'
CF_AIG_TOKEN='你的CF的ID'
curl -X POST https://gateway.ai.cloudflare.com/v1/$CF_ID_TAG/default/compat/chat/completions \
--header "cf-aig-authorization: Bearer $CF_AIG_TOKEN" \
--header "Content-Type: application/json" \
--data '{
"model": "google-ai-studio/gemini-2.5-flash",
"messages": [
{
"role": "user",
"content": "你好,你是谁,你用的大模型是什么?"
}
]
}'
{"choices":[{"finish_reason":"stop","index":0,"message":{"content":"你好!\n\n我是一个大型语言模型,由 Google 训练。","role":"assistant"}}],"created":1783580542,"id":"e0dPapfDNcGG28oPoaDx4QU","model":"gemini-2.5-flash","object":"chat.completion","usage":{"completion_tokens":14,"prompt_tokens":12,"total_tokens":472}}
进阶玩法:省钱又省心

代码改完部署上去,你就可以回 CF 后台看戏了。星哥强烈建议大家去后台开启下面这两个功能:

1. 开启缓存(Caching)

在网关的 Settings 里打开 Caching,设置个 TTL(比如 3600秒)。

如果是电商生成商品描述这种重复率高的场景,开启后能省下大笔 Token 费用,速度也是秒回。


2. 配置限速(Rate Limiting)
在 Settings 里设置一下,比如限制单个 IP 每分钟最多请求 20 次。

防止别人恶意刷你的接口,或者代码写死循环把额度跑光。

3. 看日志和监控(Analytics & Logs)

这里能看到每一条请求的详细记录,包括耗时、状态码、缓存命中情况。调试 Bug、分析用户行为,简直是神器。


总结

说实话,Cloudflare 这个 AI Gateway 真的是把开发者的痛点拿捏得死死的。

既能白嫖它的全球边缘节点加速,又能省钱、防封、看日志,还要啥自行车?如果你正在折腾大模型应用,听星哥的,赶紧去配一个,绝对能帮你省去很多麻烦。

如果你也喜欢研究这些好玩、实用的技术,别忘了给文章点个 “赞”“在看”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
全球都在通胀,只有我们通缩?

全球都在通胀,只有我们通缩?

谭谈财经
2026-09-13 18:18:20
美国人发了一张照片:印度人的问题,比任何人想象的都严重得多!

美国人发了一张照片:印度人的问题,比任何人想象的都严重得多!

心灵得以滋养
2026-09-15 16:15:20
老了才懂:兄弟姐妹中,最自私、最会算计的人,往往有这4种结局

老了才懂:兄弟姐妹中,最自私、最会算计的人,往往有这4种结局

艺鉴在线
2026-09-15 06:22:12
塔可星期二!詹姆斯正式入局又一餐饮品牌:球场外也是超级巨头

塔可星期二!詹姆斯正式入局又一餐饮品牌:球场外也是超级巨头

罗说NBA
2026-09-16 07:18:43
外交部:中国在本国领土开展建设等活动是主权范围内的事,正当合法

外交部:中国在本国领土开展建设等活动是主权范围内的事,正当合法

新京报
2026-09-15 15:33:15
刚坐完C919,说句大实话:和波音空客的差距,真不在飞机上

刚坐完C919,说句大实话:和波音空客的差距,真不在飞机上

次元君情感
2026-09-15 10:06:31
最后一舞!梅西入选阿根廷国家队大名单,10月6日迎盛大告别赛

最后一舞!梅西入选阿根廷国家队大名单,10月6日迎盛大告别赛

全景体育V
2026-09-16 06:41:19
AK47到底有多强?

AK47到底有多强?

张佳玮写字的地方
2026-09-15 17:20:04
高速大整改真来了!不取消120限速,开车方式彻底变样

高速大整改真来了!不取消120限速,开车方式彻底变样

三农老历
2026-09-15 04:13:38
美国大豆涨价,中国却买出四年最快节奏

美国大豆涨价,中国却买出四年最快节奏

李砍柴
2026-09-15 13:06:17
爆笑!张雪打车被司机认出 坚决否认:我和张雪确实很像 但他是老登

爆笑!张雪打车被司机认出 坚决否认:我和张雪确实很像 但他是老登

念洲
2026-09-16 06:54:20
成都小伙身亡,知情人爆料,家庭条件殷实,本有3次保命机会

成都小伙身亡,知情人爆料,家庭条件殷实,本有3次保命机会

闻识
2026-09-15 10:55:10
前NBA球员:伦纳德比杜兰特更强,杜兰特在猛龙拿不了冠军

前NBA球员:伦纳德比杜兰特更强,杜兰特在猛龙拿不了冠军

日常碎碎念啊
2026-09-16 06:49:55
9月15日,人社部、财政部关于2026年上调退休人员基本养老金的通知正式公布之前,退休工资开始发放,2种待遇率先上涨

9月15日,人社部、财政部关于2026年上调退休人员基本养老金的通知正式公布之前,退休工资开始发放,2种待遇率先上涨

白昼说故事
2026-09-15 09:16:17
美国智库警告:中美一旦台海开战,美国将有92%的几率打败解放军

美国智库警告:中美一旦台海开战,美国将有92%的几率打败解放军

梦想的现实
2026-09-15 21:13:07
首秀轰32分?2米2天津小将站帽+中投无所不能 1点比张子宇强

首秀轰32分?2米2天津小将站帽+中投无所不能 1点比张子宇强

大嘴爵爷侃球
2026-09-15 16:36:04
美娜和库里同框!库里中国行引发热议:美女美娜和库里表情神同步

美娜和库里同框!库里中国行引发热议:美女美娜和库里表情神同步

足球评论大家谈
2026-09-15 23:38:00
终于知道为何各大车企疯狂降价了,原来是资本已经嗅觉到大变化了

终于知道为何各大车企疯狂降价了,原来是资本已经嗅觉到大变化了

沙雕小琳琳
2026-09-15 14:49:38
3比1输球后,德泽尔比道歉:这个结果不公平

3比1输球后,德泽尔比道歉:这个结果不公平

温柔且自由
2026-09-16 07:13:23
湖南师范大学中国乡村振兴研究院教授陆福兴病逝,享年57岁

湖南师范大学中国乡村振兴研究院教授陆福兴病逝,享年57岁

澎湃新闻
2026-09-14 16:02:26
2026-09-16 07:31:00
星哥玩云 incentive-icons
星哥玩云
星哥跟你说说工作生活的那些事
469文章数 283关注度
往期回顾 全部

科技要闻

芯片产业链蒸发超5000亿美元,特朗普大怒

头条要闻

女子婚后发现单身公公脾气好 将离异母亲嫁给公公

头条要闻

女子婚后发现单身公公脾气好 将离异母亲嫁给公公

体育要闻

AK47到底有多强?

娱乐要闻

谢霆锋示爱王菲、和前妻划清界限

财经要闻

黄仁勋接到特朗普电话:AI风险论是"骗局"

汽车要闻

10.36万元起,2027款埃安i60上市,三大升级一次看懂

态度原创

家居
时尚
旅游
艺术
数码

家居要闻

2026建博会(广州) 公装联探展交流活动

真正会打扮的女人不会总穿黑色,看看这些红色系穿搭,养眼又高级

旅游要闻

“每周一馆”坚持六年,她可能是逛过上海最多博物馆的老外丨洋掌柜新观察

艺术要闻

离谱!这不是欣赏油画,是灵魂交流:戈尔比科夫让画中人物开口和你谈心!

数码要闻

荣耀AgenticOS亮相,10月面向Magic9系列开放尝鲜招募与推送

无障碍浏览 进入关怀版