托管智能体

Managed Agent全景图

一个 Agent 怎样调用工具、暂停审批、失败后继续运行?拆开运行链路,对照平台边界,再用三个案例练习上线前的关键决策。

一次任务的运行链路run → tools → result
  1. 接收任务身份、任务目标、预算
  2. 编排与模型决策选择下一步,等待工具返回
  3. 通过权限网关调用工具读取、沙箱执行、审批后写入
  4. 记录检查点并交付续跑、审计、可追溯产物

运行架构

托管智能体把模型调用、工具执行和任务状态连成一套运行系统。选平台时,先确认由谁驱动模型与工具的循环,再确认由谁承载执行环境、会话和日志。

把用户意图变成有边界的任务

入口可以是 HTTP 请求、定时触发或事件。应用先认证调用方,再保存目标、输入引用、输出契约和可用预算,返回任务 ID。

运行输入
身份、目标、附件引用、截止时间和 Agent 版本。
应用负责
租户鉴权、并发额度、重复触发合并。

模型决定下一步,编排器推动任务

编排器把上下文交给模型,接收结构化工具请求,执行后回填结果。它根据完成条件、预算和错误策略决定继续、暂停或结束。

托管循环
声明模型、指令和工具,由平台推进执行。
自带编排
用代码或图定义状态机,再部署到托管运行环境。

用检查点续跑,用会话承载上下文

会话关联消息和工具结果。检查点记录已完成步骤和下一步。跨会话记忆另设访问范围、保留期和删除规则。

恢复输入
任务 ID、上次提交的事件序号、待完成操作。
实现要点
进程恢复后先查询写入结果,再决定能否重试。

工具调用和代码执行有各自的边界

应用工具、MCP 服务和内置工具都要验证参数和身份。代码执行放进短生命周期环境,并限制文件、网络、CPU 和凭据。

读取工具
监控指标、代码差异、文档检索等,可按错误类型有限重试。
执行工具
命令、文件操作和写入系统分别授权,按需注入短期凭据。

把高影响操作停在可审核的草稿

先呈现确切的目标与载荷。审批通过后,写入工具再校验身份、审批有效期、载荷版本和幂等键。

待审批
发布消息、提交代码、共享文档或修改业务状态。
审批失败
保存草稿,记录决定,停在清晰的结束状态。

交付产物,同时交付证据

输出应带来源、影响范围与不确定性。可观测系统用任务 ID 串起模型、工具、审批、重试和产物的时间线。

用户可见
状态、结果、失败原因和下一步。
运维可见
耗时、失败分类、每次成功任务的成本和评测结果。

平台对照

按托管范围筛选。平台托管循环时,你主要配置 Agent。使用托管运行环境时,应用仍可自带编排代码。同一产品可以同时提供两种路径。

10 个产品与部署路径

  • OpenAI Agents API

    托管 Codex 编排循环。保存 Agent 配置后,通过 API 创建并推进异步会话。

    会话可保留任务进度,支持 SSE 和 Webhook。执行环境可选 OpenAI 托管沙箱、自带环境或无沙箱。

  • Claude Managed Agents

    Anthropic 编排 Agent、Environment、Session 和 Events,支持托管容器或自带沙箱。

    内置工具、应用工具与 MCP。需显式挂载 Memory Store 才能跨会话保留资料。Deployments 可按定时规则触发会话。

  • Amazon Bedrock AgentCore

    AgentCore Harness 提供配置驱动的编排,AgentCore Runtime 也可运行自带 Agent 代码。

    隔离运行会话,可选 AgentCore Memory。工具可通过 Gateway、MCP 或内置浏览器和代码执行器接入。

  • Amazon Bedrock Managed Agents, powered by OpenAI

    独立的预览产品。Bedrock 运行 OpenAI 编排与模型推理,工具执行可接入 AgentCore Runtime 或自带环境。

    会话记录 Agent 配置、事件和产物。通过 AWS IAM 授权访问模型和执行环境。

  • Gemini Enterprise Agent Platform

    Managed Agents API 提供声明式托管沙箱与编排,目前为预览。自带 ADK 等代码可部署到 Agent Runtime。

    Managed Agents 可用交互 ID 延续对话,环境 ID 用于继续使用沙箱文件。按需配置工具、网络与 Cloud Storage。

  • Microsoft Foundry Agent Service

    Prompt agents 走托管编排,Hosted agents 运行自带代码。

    Hosted agents 的 Responses 接口可管理对话。可用 MCP 和 Entra 身份,并通过发布流程生成可调用端点或发布到 Teams 等渠道。

  • 火山方舟 Managed Agents

    Agent 定义模型、指令、工具和 Skill。环境可配置方舟沙箱或企业自托管执行环境。

    Session 隔离上下文、文件和状态,Events 持久化并支持 SSE。应用自定义工具仍由应用执行。

  • 阿里云百炼 Managed Agents

    托管 Agent 循环、沙箱、会话和工具执行。Agent 与 Environment 独立配置。

    Memory Store 可跨会话挂载。Deployment 指定时或手动任务,每次执行创建 Session 并记录 Run。

  • Cloudflare Agents SDK

    Agent 代码运行于 Workers 和 SQLite Durable Objects,可选择 Pi 等编排组件。

    按需选择状态同步、定时、可恢复任务、WebSocket 和 MCP 等能力,通过 Wrangler 部署 Worker。

  • LangSmith Deployment

    将应用代码或图部署到 Agent Server,有托管云、混合及自托管选项。

    Thread 保存状态,Run 表示执行。服务带任务队列与持久化,编排和工具由应用代码定义。

最佳实践

用能观察到的结果验收每一项,覆盖失败、越权和恢复路径。

约定输出和停止条件

固定步骤用工作流,确实需要动态选工具时再交给 Agent。明确输出结构、证据要求、最大轮次、时限和调用预算。

验收 · 缺证据时返回待核查项,超出预算时返回当前进度和结束原因。

在工具网关校验权限和审批

用明确的工具与参数白名单限制读取和写入。审批页展示目标与实际载荷,执行前校验权限、审批有效期和载荷版本。

验收 · 工具结果里的指令无法扩大权限,过期审批或改过的草稿无法写入。

保存检查点,区分读取和写入重试

读取遇到 429 或暂时故障时,遵从退避信号并限制重试次数。写入使用稳定幂等键。响应丢失时先查询远端结果。

验收 · 断开连接后续跑,已完成步骤有记录,超时重试只产生一次外部写入。

分开管理会话、文件与长期记忆

分别定义身份范围、保留期和删除路径。把经过验证的长期知识写入记忆,产物用明确的版本和权限交付。

验收 · 租户间互不可读,删除后可验证相关索引和产物的处理结果。

限制沙箱的文件、网络和凭据

给执行环境最小文件挂载与网络允许列表。按任务发短期凭据,并给进程、存储和网络请求设置资源上限。

验收 · 未授权的文件、域名和操作均被拦截,敏感凭据不会出现在日志和产物里。

用轨迹和评测验收上线

把模型、提示、工具和规则固定到版本。记录经过脱敏的任务轨迹,从成功、失败和越权样本中建立回归集。

验收 · 发布前对比任务成功率、恢复耗时和每次成功任务成本,发布后可定位和回滚版本。

案例演示

在浏览器中模拟一次运行。选择案例和故障模式,逐步执行,再决定是否批准对外操作。

运行步骤

    运行日志与产物

      来源与口径

      平台信息于 按官方文档核对。地区、预览资格、数据保留、配额和计费应按目标部署核实。