网易首页 > 网易号 > 正文 申请入驻

将 Pod 作为 worker 而非智能体:在 Kubernetes 上重新思考 AI 智能体的部署单元

0
分享至


作者 | Mark Silvester

译者 | 张卫滨

在一篇 CNCF 博客文章中,Lin Sun 介绍了 kagent 项目的工作,认为 Pod 可能仍然是智能体的执行单元,但不再适合作为部署、身份标识或生命周期的单元。

随着智能体数量的增长,会出现熟悉的问题,那就是,如何在智能体之间实现隔离、每个智能体如何获得身份标识、如何执行访问与网络策略、如何观察单个智能体在做什么,以及在多租户场景下确定谁拥有智能体。这些更多是智能体平台层面的问题,而不是纯 Kubernetes 的问题,尽管答案需要在 Kubernetes 上进行表达。

一种直接的方法是将每个智能体作为一级 Kubernetes 工作负载,配备自己的 Pod、Service 和 ServiceAccount。最初,kagent 将许多智能体运行在单个运行时中,便采用了这种方式。它提供了进程与容器隔离,可以接入现有认证授权的 ServiceAccount 身份,可以应用 Kubernetes 网络与准入策略机制,支持按智能体归属日志 / 指标 / 追踪以及原生的 Kubernetes 调度与资源管理。kagent 随后又通过 Kubernetes Agent Sandbox 项目 实现了更强的隔离支持。

它的问题在于,智能体的行为与微服务是不同的,而上述这些抽象都是针对微服务而设计的。与需要持续可用的服务不同,智能体可能只有在分配任务时才会被唤醒,运行几秒或几分钟后进入空闲,因此为每个潜在智能体保留专用 Pod 会很浪费。智能体还可能产生子智能体以并行执行子任务、代表用户执行操作,或者在等待人工批准时无限期暂停。Pod 是优秀的执行环境,但并不一定是处理这种短时突发工作负载的正确生命周期抽象。

另一种方法是停止将每个智能体视为 Kubernetes 工作负载,而是在 Kubernetes 之上引入一个控制平面。Agent Substrate 就采用了这种做法。谷歌在其 Agent Sandbox 和 Agent Substrate 公告 中介绍了它。kagent 也提供对此的支持,详见 kagent 的 Agent Substrate 集成指南。

Agent Sandbox 提供了隔离的执行环境,而 Agent Substrate 负责管理逻辑智能体如何被放置到 Worker 中并支持在 Worker 之间进行迁移。Kubernetes 继续管理 Pods、Services、网络、存储与计算,而上层则管理 AI Actor 在执行 worker 上的生命周期与放置。它的抽象与平台工程师熟悉的概念类似:WorkerPool类似于 NodePool,Workers对应 Nodes,而ActorTemplate对应 Pod 的声明式规范。

Kubernetes 只关心 WorkerPools 和 ActorTemplates,而 Workers 和 Actors 存在于 Agent Substrate 自己的 CLI 与 API 中,每个 Worker 映射到一个 Pod。Actor,即“充当”AI 智能体的实体,是在有工作到来时调度到 Worker 上的逻辑单元,并可以根据生命周期需求被挂起、恢复或移除。这样,就允许固定池内长期运行的 Pod 支撑其更多的智能体,远远超过为每个智能体都运行独立持续 Pod 时的逻辑智能体。Pod 成为执行 worker,而非智能体的部署模型。

其影响范围不仅局限于调度效率。Sun 认为,如果 Actor 可以在任意 Worker 上运行,那么它的身份标识更可能属于 ActorTemplate、命名空间、租户和版本,而非归属于 Pod 或 Service。访问控制、网络策略与运行时权限也可能需要在模板级别进行表达,并支持按照 Actor 进行覆盖。一旦执行不再与 Pod 一一对应,归属权、配额与计费会更难以跟踪,而可观测性必须跟随逻辑智能体,将日志、追踪与审计记录与 Actor 的调度位置关联起来。

这并没有否定 Kubernetes 在规模化微服务与推理工作负载方面的行业地位。需要讨论的是一个更细分的问题,那就是,在 Pod 被证明是优秀的执行环境之后,它是否还应该继续作为 AI 智能体的部署、身份识别与生命周期单元。Agent Substrate 通过 kagent 正在探索这个问题。随后,Kubernetes Podcast from Google 在其每周新闻摘要中也报道了 Sun 的文章。

查看英文原文:

Pods as Workers, Not Agents: Rethinking the Deployment Unit for AI Agents on Kubernetes(https://www.infoq.com/news/2026/08/pod-deployment-unit-ai-agents/)

声明:本文为 InfoQ 翻译,未经许可禁止转载。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
韦雪女儿上大学,陈平亲自护送,一头白发惹眼,老师差点认错

韦雪女儿上大学,陈平亲自护送,一头白发惹眼,老师差点认错

娱说瑜悦
2026-09-02 18:31:00
当一个国家的年轻人被迫当临时工,社会会变成什么样?

当一个国家的年轻人被迫当临时工,社会会变成什么样?

流苏晚晴
2026-09-02 18:54:50
四川机场集团上半年亏损超7亿元,6年半亏了近139亿元

四川机场集团上半年亏损超7亿元,6年半亏了近139亿元

南方都市报
2026-09-03 18:16:06
李亚鹏自曝,李嫣除了英语全不及格,一年百万学费换来什么

李亚鹏自曝,李嫣除了英语全不及格,一年百万学费换来什么

历史点行
2026-09-03 16:00:37
1941年,革命夫妻狱中生子,为了保命忍痛将孩子托付给特务,结局出人意料

1941年,革命夫妻狱中生子,为了保命忍痛将孩子托付给特务,结局出人意料

磊子讲史
2026-07-10 17:00:05
5年2.3亿美金,成NBA尴尬的状元,你可能要被交易

5年2.3亿美金,成NBA尴尬的状元,你可能要被交易

篮球扫地僧
2026-09-04 00:06:28
联印遏华?上合峰会生变,俄外长提醒中国当心,巴总理说出大实话

联印遏华?上合峰会生变,俄外长提醒中国当心,巴总理说出大实话

虎哥闲聊
2026-09-03 14:19:38
韩国电影《Hope》北美大规模上映,发行规模创韩语片纪录

韩国电影《Hope》北美大规模上映,发行规模创韩语片纪录

赴一场山海啊
2026-09-03 23:13:55
性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

心理观察局
2026-08-05 06:46:04
黄岩岛迟迟不填海造岛,中国在等什么?背后藏着我们的一盘大棋

黄岩岛迟迟不填海造岛,中国在等什么?背后藏着我们的一盘大棋

文史达观
2026-09-03 06:45:22
真可怜啊!网友同情明星,不火了只能接廉价商演,一场仅仅5万元左右!评论区被气得不轻!

真可怜啊!网友同情明星,不火了只能接廉价商演,一场仅仅5万元左右!评论区被气得不轻!

谭谈社会
2026-08-25 14:40:14
baby投靠古天乐疑隐婚!与黄晓明划清界限,香港复出背后藏豪门靠山

baby投靠古天乐疑隐婚!与黄晓明划清界限,香港复出背后藏豪门靠山

瞎说娱乐
2026-09-03 14:21:16
力挺偶像!34岁孙兴慜:C罗是历史最佳,我也无法反驳梅西是GOAT

力挺偶像!34岁孙兴慜:C罗是历史最佳,我也无法反驳梅西是GOAT

风过乡
2026-09-04 07:38:00
衣不蔽体?孙千出席活动,下身内裤外露,太敢穿了

衣不蔽体?孙千出席活动,下身内裤外露,太敢穿了

秋姐居
2026-09-01 09:39:45
来了来了!史诗级重磅交易!轰动NBA争冠格局

来了来了!史诗级重磅交易!轰动NBA争冠格局

技巧君侃球
2026-09-03 13:17:23
美国炸鸡巨头中国首店开业:90元一桶、日均八九百单,代排费炒至150元

美国炸鸡巨头中国首店开业:90元一桶、日均八九百单,代排费炒至150元

蓝鲸新闻
2026-08-31 18:12:13
景甜太温柔了!曾给剧组小演员转账,聊天记录截图流出,网友:世间所有美好,都不足以形容她

景甜太温柔了!曾给剧组小演员转账,聊天记录截图流出,网友:世间所有美好,都不足以形容她

火山詩话
2026-09-03 14:33:24
一天开1600公里回波特兰,杨瀚森:美国租车太贵

一天开1600公里回波特兰,杨瀚森:美国租车太贵

快乐加载中21
2026-09-03 10:53:17
郑钦文2-1掀翻更高排名选手,豪取5连胜,强势挺进美网女单32强

郑钦文2-1掀翻更高排名选手,豪取5连胜,强势挺进美网女单32强

侧身凌空斩
2026-09-04 05:53:48
刘畊宏直播间凉了,“老板娘”的身材戳破了多少人的减肥梦?

刘畊宏直播间凉了,“老板娘”的身材戳破了多少人的减肥梦?

看尽落尘花q
2026-08-23 19:28:46
2026-09-04 07:48:49
InfoQ incentive-icons
InfoQ
有内容的技术社区媒体
12893文章数 52052关注度
往期回顾 全部

科技要闻

英伟达129亿美元拿下Hugging Face

头条要闻

媒体:美国驻华大使馆关心灾情的方式令人不适

头条要闻

媒体:美国驻华大使馆关心灾情的方式令人不适

体育要闻

梅西:巴萨10号与阿根廷10号

娱乐要闻

王宝强携女友回工作室!相恋8年仍未婚

财经要闻

章子怡套现3亿 上美拿什么补韩束的缺?

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

时尚
教育
房产
本地
公开课

女人到了60岁衣服少穿大红大绿,试试这些纯色单品,高级又耐看

教育要闻

明明是送分题目,结果全军覆没!

房产要闻

投资50亿!三亚又一重大配套,方案曝光!

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版