EN
Uncategorized

GKE Agent Sandbox 与 Agent Gateway:Agent 基础设施开始分层

GKE 在 11 月公布 Agent Sandbox 与 Agent Gateway 的新能力。对 Kubernetes 团队来说,Agent 的隔离、恢复和流量治理不该继续混在一个 Deployment 里。

Jacky Wang 4 分钟阅读 72 阅读

我在 Kubernetes 上跑长任务时,最怕看到一个 Pod 同时承担三件事:保存 Agent 状态、执行不可信代码、还负责接收所有流量。它可能先能跑,到了等待模型、等待人工确认或等待外部 API 时,资源却一直占着。11 月中旬 GKE 的更新把这个老问题拆成了两个更清楚的组件:Agent Sandbox 和 Agent Gateway。

GKE 发布说明显示,11 月 12 日 Agent Sandbox on GKE 已普遍可用,面向隔离、有状态、单副本的工作负载,例如 AI agent;同一条更新还把 Agent Gateway for GKE 放进 Rapid channel 预览,提供控制进出 Agent 以及 Agent 之间流量的集中层。Google 的官方博客还说 Agent Substrate 1.0 已在 GKE GA,并可把闲置的 Agent 会话快照到存储,再恢复执行。

执行层和流量层不是一回事

Agent Sandbox 解决的是“这个 Agent 在哪里运行,如何隔离,暂停后怎么回来”。它更接近运行时边界。Agent Gateway 解决的是“谁可以访问它,它可以访问谁,流量和成本怎么观察”。这两件事放在一个应用容器里会让故障定位变得很难:是模型卡住了,还是网络策略拒绝了,还是 Pod 根本没有恢复?

我会把架构画成这样:

client -> Agent Gateway -> agent session
                         -> sandboxed tool execution
                         -> state snapshot / restore

实际部署前,我会把三条路径分别测一遍:模型调用、工具调用、状态恢复。任何一条路径失败,都应该让会话进入可查询的失败状态,而不是无限重试。Agent 不是普通的 HTTP 服务,它可能执行几秒,然后等待数分钟;把它当成永远忙碌的 Web Pod,会浪费节点资源。

官方数字说明了设计方向

Google 的官方博客提到,Agent Substrate 通过快照和恢复,让闲置会话释放计算资源,并称恢复可低于 500 毫秒、容器密度可达传统方式的 10 倍。这些是 Google 的发布口径,不是我在自己的集群里复现的基准,所以我不会把它写成通用承诺。对工程判断来说,方向已经够明确:Agent 的成本模型由“每个会话一台持续运行的机器”转向“状态持久、计算按需激活”。

安全边界同样重要。Google 把 gVisor 放在这套开放栈里,用于隔离 Agent 生成并执行的代码。可是沙箱不等于可以把生产凭证塞进环境变量。我仍会把凭证放在外部代理或短期授权服务中,限制 egress,并让每次工具调用留下请求、响应摘要和批准人。

我会先做一个小型验收

不需要马上迁移整个平台。拿一个无生产写权限的研究型 Agent,定义一个简单状态:任务 ID、最后一步、输入哈希、重试次数。让它运行、暂停、恢复,再故意切断模型和工具网络,检查状态是否可解释。随后才测试 Agent Gateway 的访问策略、限流和观测数据。

验收时我不会只看 Pod 是否处于 Running。我要看到一次真实的暂停和恢复,一次被拒绝的 egress,一次达到限流后的响应,还要能从日志把某个任务的完整路径串起来。若状态在恢复后丢失,或者网关只记录总流量而不记录 Agent 身份,这套能力还不能算可运营。

我还会把资源请求和会话数量分开观察。一个高峰期的 Agent 集群,可能不是 CPU 不够,而是恢复、网络或外部模型排队。把这些指标拆开,才能知道该扩容节点、调整队列,还是修复状态存储。否则平台只会用更多机器掩盖设计问题。

对我来说,最重要的日志字段不是“成功率”三个字,而是会话何时创建、何时暂停、何时恢复、最后一次工具调用是什么。它们能直接回答用户为什么还在等,也能帮助平台团队决定下一步该改哪里。

在实际排障中,我还会保留节点、沙箱身份和网关策略版本。相同的 Agent 输入,如果换了网络策略,结果可能完全不同。没有这些字段,所谓可观测性往往只剩一张漂亮的仪表盘,无法支持回放和追责。平台团队应该能够用一个任务 ID 找到状态快照、工具请求、拒绝原因和最终输出,而不是在多个系统里手工拼接线索。

GKE新功能说明记录了 11 月 12 日的发布时间和支持范围;Agent Sandbox 文档适合拿来核对安装和资源模型;Agent Gateway 文档则是配置流量治理时应看的依据。我的判断是,Agent 上云后的第一道门不会是模型选型,而是能不能把会话、执行、网络和账单拆开管理。

发表评论