截至 2026-04-12,企业级 Agent 技术栈的核心问题很简单:"在哪里看追踪、在哪里跑评估、在哪里做运营决策"。OpenAI、Azure、AWS 都给出了各自的答案,但侧重点不同。
一览对比
| 平台 | 追踪 | 评估 | 仪表盘 | 遥测集成 | 最适合的团队 |
|---|---|---|---|---|---|
| OpenAI | 追踪并检查 Agent 工作流执行的集成式可观测性 | AgentKit 之后加入了 datasets、trace grading、自动提示词优化、第三方模型支持 | 直接嵌入 Agent 开发与优化流程中查看 | 以 OpenAI 内部 Agent 技术栈为中心 | 产品团队与 AI 平台团队需要快速实验和迭代时 |
| Azure | 基于 Application Insights 与 OpenTelemetry 的追踪 | 在 Foundry 的 build-test-deploy-monitor 流程中串联评估 | Agent 监控仪表盘与 Foundry 可观测性界面 | OTel、Application Insights、Azure Monitor | 需要将 Microsoft 技术栈与治理一起运营时 |
| AWS | 基于 CloudWatch 的追踪与 AgentCore 可观测性 | 通过 AgentCore 指标和追踪验证运营质量 | 以 session、延迟、duration、token 用量、错误率为中心的仪表盘 | OTEL 兼容集成与 CloudWatch | 基础设施与平台团队需要统一运营标准时 |
差异在哪里
OpenAI 擅长把 Agent 执行流程本身纳入开发闭环。在 2025 年 3 月 11 日的发布中提供了集成式可观测性,2025 年 10 月 6 日的 AgentKit 又加入了 datasets、trace grading、automated prompt optimization、third-party model support,强化了评估与改进之间的衔接。也就是说,从实验到改进的距离更短。
Azure Foundry 把可观测性变成运营流程的一部分。按文档所述,tracing 以 Application Insights 与 OpenTelemetry 为中心配置,用 agent monitoring dashboard 查看执行状态,并把 evaluation 挂接到 build-test-deploy-monitor 生命周期上。当企业需要"在同一个控制面上管理开发与运营"时,这种方式说服力很强。
AWS AgentCore Observability 是运营团队会喜欢的形态。通过 CloudWatch 与 OTEL 兼容集成,可以一次性查看 traces、dashboards、session count、latency、duration、token usage、error rates。已经把 CloudWatch 作为标准的组织,不需要新增工具就能获得可见性。
分团队来看
平台团队看重的是标准化与可移植性。从这个角度看,Azure 和 AWS 都把 OpenTelemetry 放在前台,因此更容易接入现有的可观测性管道。当需要快速搭建 Agent 自身的执行追踪与优化闭环时,OpenAI 更有优势。
产品团队更看重评估。OpenAI 的 AgentKit 里 datasets 和 trace grading 最直接地提升了实验速度。Azure 的评估与 tracing 也紧密绑定在一起,便于把产品验证嵌入到部署前阶段。
基础设施团队看重的是告警和运营信号。AWS 可以在 CloudWatch 仪表盘上直接读取 session、延迟、duration、token 用量、错误率,对运营很友好。Azure 的 Application Insights 与 Foundry 仪表盘同样强大,而 OpenAI 在自有技术栈内部诊断 Agent 问题时速度更快。
如何做出上线决策
- 如果 OpenAI Agent 是核心,先接入 OpenAI 的集成式可观测性和 AgentKit 评估闭环。
- 如果已有 Azure 标准,以 Foundry 和 Application Insights 为基准搭建 build-test-deploy-monitor 体系。
- 如果 CloudWatch 是运营标准,从 AWS AgentCore Observability 开始,保持 OTEL 兼容路径。
- 通用标准要统一设定:是否留存追踪、评估是否可复现、仪表盘是不是运营者真正会看的界面、是否设有上线阻断条件。
实务检查清单
- 确认追踪是否一路延伸到 Agent 的 tool call、model call、error path。
- 检查评估数据集是否能代表真实的生产流量。
- 查看仪表盘展示的指标是否是产品、平台、基础设施都能理解的。
- 保留 OTEL 或既有的遥测路径,以降低可观测性体系分裂的成本。
- 在部署前后用相同标准比较质量回归。
官方链接
- OpenAI agents announcement: New tools for building agents
- OpenAI AgentKit: Introducing AgentKit
- Azure Foundry observability: Observability in Foundry Control Plane
- Azure docs: Observability in Generative AI - Microsoft Foundry
- AWS AgentCore observability: Observe your agent applications on Amazon Bedrock AgentCore Observability
- AWS CloudWatch agent view: Agent view - Amazon CloudWatch
- AWS CloudWatch GenAI observability: Generative AI observability - Amazon CloudWatch
현재 단락 (1/28)
截至 2026-04-12,企业级 Agent 技术栈的核心问题很简单:"在哪里看追踪、在哪里跑评估、在哪里做运营决策"。OpenAI、Azure、AWS 都给出了各自的答案,但侧重点不同。