Responses API 的后台完成窗口:长任务要先设计恢复点
OpenAI 在 11 月 17 日为 Responses API 公测加入两小时和八小时后台完成窗口,并给出相对 Standard 更低的 token 费率。长任务的关键从等待变成恢复。
我不喜欢把长时间 Agent 做成一个一直开着的 HTTP 请求。网络会断,浏览器会关,用户会在中途改变要求,服务本身也可能重启。11 月 17 日,OpenAI 的 API changelog 为 Responses API 公测加入两小时和八小时的后台完成窗口,并说明这两个窗口的 token 费率分别比 Standard 低 30% 和 40%。我从这个变化里看到的,不是“可以等更久”,而是恢复路径必须先进入接口设计。
官方 changelog 同一天还列出 GPT-6.2 Astra 和 GPT-6.2 Sol:Astra 面向 demanding reasoning 和 coding,Sol 面向日常 coding 与 agent workflows;工具调用需要 Responses API。这里有两个事实要分开看。模型选择是能力问题,后台完成是生命周期问题。把两者混成一个“更强模型跑更久”的开关,最后通常会得到一个难以取消、难以计费、难以解释的任务。
先写任务状态,再写调用代码
我会把一次后台任务当成数据库里的状态机,而不是一个 Promise:
{
"job_id": "job_123",
"status": "running",
"window": "2h",
"input_hash": "sha256:...",
"last_event": "tool_result_saved",
"cancelled": false
}
last_event 比一个模糊的进度百分比更有用。服务重启后,Worker 可以根据事件日志决定从哪里继续;用户取消时,系统也有地方记录取消,而不是只断开客户端连接。真正的生产问题经常不是模型没有返回,而是返回之后,结果没有安全写入数据库。
我会把事件写入和副作用分开。模型输出可以重复读取,付款、发通知和修改权限却不能重复执行。每个工具调用都应该带上 job_id 与幂等键,结果保存成功后再推进状态。这样即使后台窗口结束、Worker 被系统回收,下一次启动也知道哪些事情已经发生,哪些事情还没有发生。
如果任务需要人工审批,我会把审批也当作事件,而不是在 Worker 内部阻塞。审批人离线时,任务可以安全等待;审批通过后,新的 Worker 读取事件再继续。这个小变化很实用,因为长任务的寿命不应该依赖某个进程还活着。
我会给任务设置过期时间和人工接管按钮。一个长期没有新事件的任务,不应该静默地消耗窗口;它要么提醒用户,要么进入可恢复的暂停状态。只有这样,后台能力才不会变成隐藏的排队账单。
这对我维护 SaaS 很重要:后台任务必须有负责人、截止时间和可追踪的输出。否则所谓自动化只是把等待从前台搬到后台,问题并没有消失。每次恢复都应该留下新的事件,方便用户和开发者判断任务是否真的向前走了。
这也方便复盘。
也方便交接。
更容易确定。
两小时和八小时不是产品承诺
OpenAI 的官方 API changelog给出了窗口和费率变化,但它没有替应用定义成功标准。我会自己设定 deadline、最大工具调用次数、最大预算和人工接管点。八小时窗口适合研究、代码审查或需要等待外部系统的任务,不代表我会让它无限运行。
费率差也不能脱离完成率看。假设同一任务在 Standard 下消耗 100 个计费单位,按官方相对费率,两个小时窗口的参考量约为 70,八小时窗口约为 60;这是按比例计算的示例,不是价格报价。若后台任务多跑了两轮工具调用,或者最终结果需要人工重做,账面节省很快就会消失。
我还会为每个窗口保留一个明确的取消操作:
POST /jobs/job_123/cancel
-> mark cancellation requested
-> stop new tool calls
-> persist final event
-> show partial result and reason
“取消”不应该只是 UI 上的灰色按钮。它需要阻止新的副作用,尤其是发邮件、改工单、写生产配置或提交付款的工具。
我会先做一次断电演练
在真正接入业务前,我会让 Worker 在三个时间点退出:模型返回前、工具调用后、结果落库前。每次重启都检查是否会重复执行工具,是否能从 last_event 恢复,是否能向用户解释当前状态。对于外部副作用,工具接口必须带幂等键,不能依赖模型“记得自己刚刚做过什么”。
Responses API 的官方文档用来核对请求字段和返回结构;Agents API 文档适合对照会话、工具和长任务的整体概念。我的结论很简单:后台完成窗口会让 Agent 更像一个需要运维的工作队列。下一步我会先把恢复、取消和副作用审计写完,再决定哪些任务值得使用八小时窗口。
