网易首页 > 网易号 > 正文 申请入驻

百度百舸Meetup在京举办 推理基础设施助力Agent规模化落地

0
分享至

9月22日,百度智能云联合SGLang社区举办“Agent时代的推理基础设施:百度百舸 × SGLang生产级实践”Meetup,围绕多芯适配、上下文缓存、KV Cache优化、显存优化、MoE专家压缩和推理服务治理等议题,探讨Agent走向生产环境所需要的推理底座。



从多芯适配到上下文复用 让Agent更快地跑起来

当前,Agent不再只是生成一次回答,而是需要理解目标、拆解任务、调用工具,并在多轮交互中持续推进。上下文能否复用、超大模型能否高效部署、复杂请求能否稳定调度,都将影响Agent的任务完成效率和规模化应用成本。

一次真实的Agent任务,往往包含多轮推理和工具调用。随着任务推进,输入上下文持续增长,不同轮次之间也存在大量重复内容。如果每轮交互都从头计算,响应速度和推理成本都会受到影响。

公开基准数据显示,在393条真实Agentic Coding任务轨迹中,输入输出比中位数达到213∶1,极端情况下输入序列长度可达67.5万Token。Agent工作负载正在呈现长输入、多轮次、强复用的特征。

因此,Agent时代的推理基础设施不能只关注模型一次“答得多快”,还要关注一项任务能否连续、稳定、低成本地完成。要实现这一目标,推理基础设施需要从底层硬件适配、计算效率优化到上下文管理进行系统性升级。

在多芯适配方面,sglang-kunlun插件打通SGLang与昆仑芯,降低模型迁移和适配门槛。百度百舸还推动SGLang社区建立硬件可插拔插件机制,并从芯片算子、任务下发和通信等层面进行优化。

在上下文缓存方面,SGLang社区分享了从RadixAttention到Unified Radix Cache的技术演进。通过统一缓存管理体系,不同类型的KV Cache可以实现高效复用。在现场分享的实践数据中,FULL与SWA混合模型在多轮HiCache场景下命中率达到96.8%,平均首字时延为1.23秒。

不止模型跑得快 也要让整套服务稳定可控

面对超大模型部署,百度百舸通过权重零冗余分布式部署、显存占用优化和MoE专家压缩,释放更多显存空间,为长上下文和高并发任务提供资源支撑。

在相关测试中,MoE专家压缩50%后,长输出和高并发场景下的输出吞吐峰值可达到原来的2.23倍。对Agent而言,这不仅意味着节省显存,也意味着相同算力资源可以承载更多任务。

当Agent进入生产环境,仅仅提高模型速度还不够。百度百舸从流量、负载和集群缓存三个层面进行服务治理,通过动态调度、变长行为感知分桶和KV Cache无感热迁移,让请求进入更加合适的推理实例。

同时,百度百舸构建多级缓存体系,并通过全链路命中率漏斗定位缓存损失环节,提升复杂负载下的服务稳定性。

模型能力之外 看见Agent的真实问题

本次活动还设置了闪电演讲环节。SGLang核心贡献者张晓雨围绕推理服务部署和AI Infra工程自动化展开分享;元神智算CEO蓝衣剑客从标准与生态角度分享Agent发展趋势;万涂幻象社区主理人李祥瑞则聚焦上下文与主体连续性,讨论Agent如何在真实系统中保持状态、完成交付并应对故障恢复。

三位嘉宾的分享共同指向一个变化:Agent的价值不只是“更会回答”,而是能够在连续上下文中理解任务、调用能力并完成交付。百度智能云将继续与SGLang等技术社区及更多开发者开展技术共建,助力Agent从单点尝试走向规模化落地。

模型能力决定Agent能够解决什么问题,推理基础设施则决定这些能力能否被稳定、低成本地交付。百度百舸正在把推理能力从单点性能优化,扩展为覆盖模型适配、上下文复用、资源管理和服务治理的完整体系,帮助Agent跑得更快、更省、更稳。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曹洪:伊朗战争让中国措手不及!中国根本没见识过这种打法!

曹洪:伊朗战争让中国措手不及!中国根本没见识过这种打法!

墨策史
2026-11-18 20:49:29
苏亚雷斯:不要将亚马尔与梅西比较,想达到梅西高度几乎不可能

苏亚雷斯:不要将亚马尔与梅西比较,想达到梅西高度几乎不可能

兰亭墨未干
2026-11-18 06:17:02
哈里王子突访乌克兰利沃夫,向乌克兰士兵保证:“你们会赢得战争”

哈里王子突访乌克兰利沃夫,向乌克兰士兵保证:“你们会赢得战争”

忧郁天空
2026-11-17 20:06:03
亲西方派发难!蒙古国总统以退为进宣布辞职,对华路线悬而未决

亲西方派发难!蒙古国总统以退为进宣布辞职,对华路线悬而未决

云上乌托邦
2026-11-18 22:05:04
香烟突然大降价,不是良心发现,是老百姓彻底觉醒了

香烟突然大降价,不是良心发现,是老百姓彻底觉醒了

流苏晚晴
2026-11-13 22:20:15
一旦收回台湾,会有哪些“大变化”,中国,要不要组建第四舰队?

一旦收回台湾,会有哪些“大变化”,中国,要不要组建第四舰队?

清沐执笔
2026-11-18 21:53:26
美国记者站在深圳街头惊叹不已,真正让美国害怕的,从来不是速度

美国记者站在深圳街头惊叹不已,真正让美国害怕的,从来不是速度

讲者普拉斯
2026-11-17 21:55:42
马斯克的私人飞机正在飞来……

马斯克的私人飞机正在飞来……

问问马斯克AskMusk
2026-11-18 11:06:06
国际货币基金组织预测:中国2027年GDP,将彻底领先日本5倍以上!

国际货币基金组织预测:中国2027年GDP,将彻底领先日本5倍以上!

生活新鲜市
2026-11-18 05:52:20
决胜的秘密藏在胜率曲线里:三星杯AI复盘

决胜的秘密藏在胜率曲线里:三星杯AI复盘

弈客围棋
2026-11-18 21:37:29
曝59岁财经女侠叶檀立遗嘱!她说自己时间到了,抗癌4年丁克无娃

曝59岁财经女侠叶檀立遗嘱!她说自己时间到了,抗癌4年丁克无娃

揽星河的笔记
2026-10-22 13:40:51
周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

火山詩话
2026-11-14 11:10:23
为什么人人都在喷星巴克这位准备考公的姑娘?原来是激起了民愤啊

为什么人人都在喷星巴克这位准备考公的姑娘?原来是激起了民愤啊

西楼知趣杂谈
2026-08-24 06:23:52
43岁房祖名近照曝光,现身东京,传秘婚娶小11岁天王旧爱

43岁房祖名近照曝光,现身东京,传秘婚娶小11岁天王旧爱

秋姐居
2026-11-17 11:50:18
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
江苏淮安一轿车雾天为避稻谷选择逆行,致两车相撞起火,现场浓烟滚滚,存在燃油泄漏爆燃风险,经消防人员10分钟处置,明火被成功扑灭

江苏淮安一轿车雾天为避稻谷选择逆行,致两车相撞起火,现场浓烟滚滚,存在燃油泄漏爆燃风险,经消防人员10分钟处置,明火被成功扑灭

台州交通广播
2026-11-18 21:14:00
特朗普送出10份“大礼”,俄罗斯依然未能取得优势

特朗普送出10份“大礼”,俄罗斯依然未能取得优势

山河路口
2026-11-18 20:28:35
中美俄将举行三方会晤,日本被晾一边,中日关系冷处理没商量

中美俄将举行三方会晤,日本被晾一边,中日关系冷处理没商量

麓谷隐士
2026-11-18 00:05:04
大变样!三星Galaxy S27 Pro再次确认,这次真给我看懵了

大变样!三星Galaxy S27 Pro再次确认,这次真给我看懵了

刘奔跑
2026-11-17 19:39:48
证监会最新批复!

证监会最新批复!

清华金融评论
2026-11-18 10:30:12
2026-11-18 22:59:00
数据猿DataYuan incentive-icons
数据猿DataYuan
数据智能产业创新服务媒体
3060文章数 623关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

游戏
艺术
亲子
本地
军事航空

PC Gamer试玩GTA6百小时:双主角出色但任务重复

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

亲子要闻

宝宝气人但是聪明的4个行为

本地新闻

乌兰察布:以前种土豆,现在种Token

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版