EN
Uncategorized

Agent Substrate 进入 CNCF 后,Kubernetes 要管理的不只是 Pod

Agent Substrate 1.0 和 gVisor 进入 CNCF 后,Agent 沙箱开始脱离“一个任务一个 Pod”的简单模型。真正的工程问题是状态、恢复和权限。

Jacky Wang 4 分钟阅读 73 阅读

上周我在想一个很实际的问题:如果一个 coding agent 只运行十几秒,接着等模型、等外部 API 或等人批准,我们还应该让一个 Pod 从头到尾占着内存吗?在普通 Web 服务里,这样的空闲很容易被当成浪费;在 Agent 里,它却常常是工作流的一部分。

11 月 5 日,Google Cloud 宣布 Agent Substrate、gVisor 和 OpenRL 被捐赠给 CNCF,Agent Substrate 1.0 同时在 GKE 上 GA。官方的说法很清楚:Agent Substrate 把有状态的 Agent 会话和正在执行的计算拆开,空闲会话可以快照到存储,需要继续执行时再恢复。文章还给出一个具体数字:恢复时间低于 500 毫秒,目标是在不让空闲计算堆积的情况下,把沙箱密度提高到 10 倍。官方公告

一个 Agent 不是一个一直忙的容器

传统部署的直觉是:任务来了,起 Pod;任务做完,删 Pod。Agent 的循环更像这样:

用户请求 -> 规划 -> 工具调用 -> 等 API -> 等审批 -> 继续执行 -> 产出结果

如果把每一步都塞进同一个长命 Pod,等待时间会直接变成内存账单。把 Pod 立刻删掉也不行,因为上下文、身份、临时文件和工具结果都要回来。Agent Substrate 的切分点因此不是“容器有没有进程”,而是“会话状态能不能被可靠保存和恢复”。这是一种更接近虚拟机暂停与恢复的思路,而不是又一个普通 Deployment。

我会特别留意快照里到底包含什么。模型上下文可以重建,短期文件未必可以;临时凭据更不应该被不加区分地写进快照。官方公告讲的是架构能力,不等于你的应用天然完成了数据分类。生产环境仍然要定义哪些状态进入快照、哪些状态必须从外部存储重新取回。

gVisor 解决的是另一层问题

Agent 会写代码,也会安装包,还可能执行来自仓库或用户输入的脚本。普通容器共享宿主机 Linux kernel,隔离边界不能只靠“这个镜像看起来很干净”。同一份公告把 gVisor 放在沙箱层:它用 userspace application kernel 隔离生成代码,同时保留接近容器的部署密度。

这并不意味着可以把生产权限交给 Agent。我的基线仍然会是独立 service account、最小化 egress、只读基础镜像、每次工具调用有审计事件。沙箱解决恶意或失控代码的爆炸半径,RBAC 和网络策略决定它能碰到什么。两者不能互相替代。

在自己的集群里,我会先验证恢复而不是追密度

Agent Substrate 能在 GKE 上 GA,不代表任何 Kubernetes 集群都获得同样的运行时。官方强调它面向任何云上的 Kubernetes,但具体安装、快照后端、调度器和权限模型仍要看实现与版本。Agent Substrate 项目仓库 和 CNCF 项目页面 才是我会跟进的地方。

我会先写一个小测试:工具调用中途主动暂停,杀掉承载执行的工作单元,再验证会话能否恢复,临时文件是否符合预期,重复提交是否会造成副作用。恢复成功但重复扣款,依然是失败。恢复速度也不能只看平均值,要看冷启动、存储故障和审批等待后的尾延迟。

实际接入时,我还会把恢复事件写进业务日志,而不是只看 Kubernetes event。比如会话进入 paused 时保存版本号,恢复时带上同一个版本号;如果工具调用已经提交,就用幂等键拒绝第二次提交。文件系统也要有边界,缓存可以丢,用户明确保存的补丁不能丢。这样排查问题时,能分开回答“进程有没有回来”和“工作有没有被重复做”。

成本也值得单独算。空闲会话快照后,存储、快照频率和恢复时的突发 CPU 会替代一部分常驻内存成本。若快照太频繁,写放大会抵消收益;若太少,恢复时需要重放更多工具结果。我的默认策略会是小状态频繁保存,大文件放对象存储,并给恢复设一个明确的最大重放窗口。

如果恢复依赖外部队列,我还会记录消息确认点,避免 Agent 回来后把同一条任务当成新任务消费。

这项变化让我觉得 Kubernetes 的对象边界正在变。过去我们主要管理 Pod 的生命周期;Agent 系统还要管理“一个身份带着一段状态,暂停后继续做事”。我暂时不会因为一个 500 毫秒的数字就重写平台,但会先把会话恢复当成一等测试。Agent 真正进入生产的标志,不是它会调用工具,而是它停下来以后还能安全地接着做。

发表评论